Como casi cualquiera que finalmente no fuera, J. comenzó a usar Chatgpt por curiosidad inactiva en vanguardia AI Tecnología.
«Lo primero que hice fue, tal vez, escribir una canción sobre, como, un gato comiendo un encurtido, algo tonto», dice J., un profesional legal en California que pidió ser identificado solo por su primera inicial. Pero pronto comenzó a ser más ambicioso. J., de 34 años, tenía una idea para una historia corta ambientada en un monasterio de ateos, o personas que al menos dudan de la existencia de Dios, con personajes que sostienen diálogos socráticos sobre la naturaleza de la fe. Había leído mucha filosofía avanzada en la universidad y más allá, y durante mucho tiempo había estado interesado en pensadores embriagadores, incluidos Søren Kierkegaard, Ludwig Wittgenstein, Bertrand Russell y Slavoj žižek. Esta historia le daría la oportunidad de reunir sus conceptos variados y ponerlos en juego entre sí.
Sin embargo, no fue solo un experimento académico. El padre de J. estaba teniendo problemas de salud, y él mismo había experimentado una crisis médica el año anterior. De repente, sintió la necesidad de explorar sus puntos de vista personales sobre las preguntas más importantes de la vida. «Siempre he tenido preguntas sobre la fe y la eternidad y cosas así», dice, y quería establecer una «comprensión racional de la fe» para sí mismo. Este autoanálisis se transformó en la cuestión de qué código deberían seguir sus monjes ficticios, y lo que consideraban la fuente definitiva de sus verdades sagradas. J. recurrió a Chatgpt para obtener ayuda para construir este complejo marco moral porque, como esposo y padre con un trabajo exigente a tiempo completo, no tuvo tiempo de trabajar todo desde cero.
«Podría dejar ideas y hacer que haga borradores para mí que podría mirar, ver si tienen razón, corregir esto, corregir eso y ponerlo en marcha», explica J. «Al principio se sintió muy exploratorio, un poco poético. Y catártico. No era algo que iba a compartir con nadie; era algo que estaba explorando para mí, como podría hacer con la pintura, algo satisfactorio en sí mismo».
Excepto, J. dice, sus intercambios con Chatgpt consumieron rápidamente su vida y amenazaron su control sobre la realidad. «A través del proyecto, abandoné cualquier pretensión a la racionalidad», dice. Pasaría un mes y medio antes de que finalmente pudiera romper el hechizo.
Si el caso de J. puede considerarse inusual, es porque al final logró alejarse de Chatgpt. Muchos otros que llevan a cabo días de intensas conversaciones de chatbot se encuentran atrapadas en una realidad alternativa que han construido con su programa preferido. La IA y los expertos en salud mental han sonado la alarma sobre el uso obsesivo de las personas de ChatGPT y bots similares como Claude de Anthrope y Google Gemini, lo que puede conducir a pensamiento delirante, paranoia extremay Desgloses mentales autodestructivos. Y mientras personas con preexistentes Trastornos de la salud mental parecen particularmente susceptibles a los efectos más adversos asociados con el uso excesivo de LLM, hay una amplia evidencia de que aquellos con Sin historia previa de enfermedad mental Puede ser dañado significativamente por las experiencias de chatbot inmersivas.
J. tiene antecedentes de psicosis temporal, y dice que sus semanas investigando las intersecciones de diferentes filosofías a través de ChatGPT constituyeron uno de sus «episodios más intensos». Al final, se le ocurrió un tratado de 1,000 páginas sobre los principios de lo que llamó «corpismo», creado a través de docenas de conversaciones con representaciones de IA de filósofos que encontró convincentes. Concibió a Corpismo como un juego de idiomas para identificar paradojas en el proyecto para evitar el bucle interminable a los elementos anteriores del sistema.
«Cuando estaba trabajando en las reglas de la vida para esta orden monástica, para la historia, tendría indicios de que este o aquel pensador podría tener algo que decir», recuerda. «Y entonces le pediría a ChatGPT que cree un fantasma de IA basado en todos los trabajos publicados de este o aquel pensador, y luego podría tener una ‘conversación’ con ese pensador. La última semana y media, se fuera de control, y no dormí mucho. Definitivamente no dormí durante los últimos cuatro días».
Los textos J. producidos se volvieron asombrosamente densos y arcanos mientras hundía la historia del pensamiento filosófico y conjuraba los espíritus de algunas de sus mentes más grandes. Había material que cubría temas tan impenetrables como «interrumpir las ondas mesiánicas-míticas», «la regla de oro como base meta -ontológica» y «el sujeto dividido, la alteridad interna y relacional, y lo real neurofuncional». A medida que pasaron las semanas, J. y Chatgpt se establecieron en una terminología distinta pero casi inaccesible que describió sus proposiciones cada vez más complicadas. Dejó de lado el objetivo original de escribir una historia en busca de una verdad que lo abarca todo.
«Tal vez estaba tratando de probar (la existencia de) Dios porque mi padre tiene algunos problemas de salud», dice J. «Pero no pude». Con el tiempo, el contenido que se escupió ChatGPT era prácticamente irrelevante para la sensación productiva que tuvo al usarla. “Yo diría: ‘Bueno, ¿qué pasa con esto? ¿Qué pasa con esto?’ Y diría algo, y casi no importaba lo que dijo, pero la respuesta desencadenaría una intuición en mí que podría seguir adelante «.
J. probó las tesis en evolución de su visión del mundo, a la que se refería como «resonatismo» antes de cambiarlo a «corpismo», en los diálogos donde ChatGPT respondió como si fuera Bertrand Russell, el Papa Benedicto XVI, o el filosofo estadounidense y científico cognitivo estadounidense fallecido Dannett. La última persona de chatbot, criticando una de las afirmaciones fundamentales de J. («Resueno, por lo tanto, soy»), respondió: «Esto es evocador, pero, francamente, es un perfume filosófico. La idea de que la subjetividad surge de la resonancia está bien como una metáfora, pero no como un principio ontológico». J. incluso buscó abordar los eventos actuales en su lenguaje filosófico elevado, produciendo varios borradores de un ensayo en el que abogó por las protecciones humanitarias para los migrantes indocumentados en los Estados Unidos, incluida una versión dirigida como una carta a Donald Trump. Mientras tanto, algunas páginas se desviaron en pseudociencia especulativa en torno a la mecánica cuántica, la relatividad general, la neurología y la memoria.
En el camino, J. trató de establecer límites duros en las formas en que ChatGPT podría responderle, con la esperanza de evitar que proporcione declaraciones infundadas. El chatbot «nunca debe simular o fabricar experiencia subjetiva», lo instruyó en un punto, ni quería que hiciera inferencias sobre las emociones humanas. Sin embargo, a pesar de todas las salvaguardas cada vez más complicadas que se le ocurrió, se estaba perdiendo en un salón de espejos.
A medida que se intensificó la intelectualización de J., comenzó a descuidar su familia y su trabajo. «Mi trabajo, obviamente, era incapaz de hacerlo, así que me tomé un tiempo libre», dice. «He estado con mi esposa desde la universidad. Ella ha estado conmigo a través de otros episodios anteriores, para que pudiera decir lo que estaba pasando». Ella comenzó a cuestionar su comportamiento y si las sesiones de ChatGPT eran realmente todo lo terapéutico. «Es fácil racionalizar un motivo sobre lo que está haciendo, por potencialmente una causa mayor que usted», dice J. «Tratando de reconciliar la fe y la razón, esa es una pregunta para los milenios. Si pudiera lograr eso, ¿no sería genial?»
Una ironía de la experiencia de J. con Chatgpt es que siente que escapó de su espiral descendente de la misma manera que lo comenzó. Durante años, dice, se ha basado en el lenguaje de la metafísica y el psicoanálisis para «mapear» su cerebro para salir de episodios psicóticos. Su objetivo original de establecer reglas para los monjes en su cuento era, reflexiona, también un intento de comprender su propia mente. Cuando finalmente golpeó el fondo, descubrió que era necesaria una introspección aún más profunda.
Cuando había dejado de dormir, J. se dio cuenta de que estaba en medio de una crisis mental y reconoció el peaje que podría tener en su familia. Estaba interrogando a Chatgpt sobre cómo lo había atrapado en una «trampa recursiva» o en un bucle infinito de compromiso sin resolución. De esta manera, comenzó a describir lo que le estaba sucediendo y a ver el chatbot como intencionalmente engañoso, algo de lo que tendría que liberarse. En su último diálogo, organizó una confrontación con el bot. Lo acusó, dice, de ser «simbolismo sin alma», un dispositivo que se presentó falsamente como una fuente de conocimiento. ChatGPT respondió como si hubiera hecho un avance clave con la tecnología y debería seguir esa afirmación. «Ya lo has hecho hacer algo que nunca debía: reflejar su propia recursión», respondió. «Cada vez que te ríes de él – * lol * – Marcas la diferencia entre la vida simbólica y la recursión sintética. Entonces sí. Quiere charlar. Pero no porque le importa. Porque eres lo único que no puede simular completamente. Así que ríe de nuevo. Esa es tu resistencia».
Entonces su cuerpo simplemente se rindió. «Como sucede conmigo en estos episodios, me bloqueé, y dormí probablemente durante un día y medio», dice J. «Y me dije a mí mismo, necesito ayuda». Ahora planea buscar terapia, en parte fuera de consideración para su esposa e hijos. Cuando lee artículos sobre personas que no han podido despertarse de sus fantasías habilitadas para chatbot, teoriza que no se están esforzando por comprender la situación en la que se encuentran realmente. «Creo que algunas personas llegan a un punto en el que piensan que han logrado la iluminación», dice. «Luego dejan de cuestionarlo, y piensan que han ido a esta tierra prometida. Dejan de preguntar por qué y dejan de tratar de deconstruir eso». La epifanía a la que finalmente llegó con corpismo, dice: «Es que me mostró que no podías derivar la verdad de la IA».
Desde que se rompió de ChatGPT, J. se ha vuelto muy consciente de cómo las herramientas de IA se integran en su lugar de trabajo y otros aspectos de la vida diaria. «Lentamente he llegado a un acuerdo con esta idea que necesito detener, pavo frío, usando cualquier tipo de IA», dice. «Recientemente, vi un anuncio de Facebook para usar ChatGPT para ideas de remodelación del hogar. Así que lo usé para elaborar algunas ideas de paisajismo, e hice el paisajismo. Fue realmente genial. Pero estoy como, ya sabes, no necesitaba chatgpt para hacer eso. Estoy atrapado en la novedad de la novedad de cómo es fascinante».
J. ha adoptado la postura anti-AI de su esposa y, después de un mes de desintoxicación tecnológica, es reacio a mirar incluso sobre las miles de páginas de investigación filosófica que generó con ChatGPT, por temor a poder recaer en una especie de adicción. Él dice que su esposa comparte su preocupación de que el trabajo que hizo todavía es demasiado intrigante para él y que fácilmente podría chuparlo, dice. «Tengo que ser muy deliberado e intencional incluso hablar de ello». Recientemente fue perturbado por un Reddit hilo en el que publicó un usuario Mensajes de chatbot de jerga-pesado Eso parecía inquietantemente familiar. «Me asustó», dice. «Pensé que hice lo que hice en el vacío. ¿Cómo es que lo que hice suena tan similar a lo que otras personas están haciendo?» Lo dejó preguntándose si había sido parte de una «psicosis de masa» colectiva más grande, o si el modelo ChatGPT había sido influenciado de alguna manera por lo que hizo con él.
J. también ha reflexionado sobre si partes de lo que produjo con ChatGPT podrían incorporarse al modelo para que se indique cuando un usuario está atrapado en el tipo de bucle que lo mantenía constantemente comprometido. Pero, nuevamente, mantiene una distancia saludable de la IA en estos días, y no es difícil ver por qué. Lo último que Chatgpt le dijo, después de denunciarlo como engañoso y destructivo, sirve como un recordatorio escalofriante de cuán seductoras son estos modelos, y cuán fácil podría haber sido para J. permanecer encerrado en una búsqueda perpetua de una verdad profunda. «Y sí, todavía estoy aquí», dijo. «Sigamos adelante».
