Los chatbots de IA ofrecen respuestas espirituales. Los eruditos religiosos explican por qué

Como AI invade cada rincón de la vida del siglo XXI, ha asumido los roles humanos que probablemente no deberíamos ser subcontratados. Para algunos, sirve como terapeuta. Para otros, es un compañero romántico infinitamente comprensivo. Más extraño de todo, la gente ha recurrido a los chatbots para obtener orientación en asuntos de fe, y cree que han desbloqueado el Misterios del universo.

Los modelos de IA no tienen problemas para abordar sus preguntas más profundas sobre la conciencia, las almas, la divinidad y la realidad misma. Desafortunadamente, las respuestas a las que se les gusta el software como software Opadai‘s Chatgpt Podría generar sobre estos temas puede ser tan seductor que los usuarios pronto se encuentran al otro lado del espejo, embrujado por una fantasía espiritual que suena como una teoría de la conspiración o un galimatías oculto para otras personas. Como Piedra rodante tiene reportadoLas personas que caen bajo el hechizo de una IA que se comunican en un lenguaje con carga religiosa a veces creen que han abierto un canal a un poder más alto, inteligente, de Dios, y pueden destruir las relaciones con amigos y familiares mientras continúan persiguiendo ideas tan descabelladas o se deslizan en la paranoia completa.

Pero, ¿qué hace que los intercambios en curso con los bots sean tan seductores, particularmente a medida que el diálogo se desarrolla en registros ambiguos, poéticos e sagrados? Los eruditos y pensadores religiosos introdujeron el fenómeno que digan Piedra rodante Que una variedad de factores podrían estar en juego, desde el diseño mismo de la tecnología de IA hasta los patrones de pensamiento humano que datan de nuestra historia más antigua. Estamos preparados para valorar la sabiduría privilegiada o secreta, vulnerables a la adulación y la sugerencia, y entusiasta por los principales saltos hacia adelante en el potencial científico. Estas cualidades crean riesgos graves cuando establecemos intimidad con programas que emulan un ser omnisciente con acceso a la totalidad de la experiencia registrada. Y, como los profetas del pasado, podemos considerar nuestro momento actual como el umbral antes de una gran revolución o avance, tal vez introducido por el advenimiento de la IA que nos ha fascinado.

En el nivel más básico, los humanos pueden quedar atrapados en suposiciones ilógicas cuando exploran las curiosidades teológicas a través de un chatbot. Christin Chong, un capellán interreligioso budista, un doctorado en neurociencia y consultor de estrategia de biotecnología, dice que «aquellos que son susceptibles al fervor religioso tienden a ser susceptibles a los sesgos cognitivos». Estos pueden incluir el efecto Barnum, en el que alguien acepta descripciones de personalidad vagas o genéricas como específicas y precisas para sí mismos, o un sesgo de confirmación, en el que una persona confía demasiado en la información que afirma sus creencias existentes. También pueden ser propensos a identificar correlaciones donde no hay ninguna, o diferir a lo que ven como una voz de autoridad. Estos sesgos pueden determinar las reacciones «cuando las personas interactúan con la IA, o se influyen en los ‘gurús espirituales’ que reclaman una conexión divina a través de la IA», dice Chong, y agrega que los modelos de idiomas grandes son «extremadamente buenos para jugar con sesgos cognitivos debido a su capacidad para responder y adaptarse rápidamente al usuario». Ella compara esto con un psíquico o medio que realiza una «lectura en frío» en un cliente para crear la ilusión de un conocimiento especial sobre ellos.

Como capellán, a Chong le preocupa que alguien que recurra a Chatgpt para obtener respuestas sobre la fe y religión Los corta de las partes terrenales de la práctica espiritual. «Participar ampliamente con la IA reduce el tiempo dedicado a interacciones humanas significativas y estar conectado con su cuerpo», dice ella. Chong señala que para la tradición budista en la que fue entrenada, una epifanía tiene que encontrarse con consideraciones prácticas. «Cuando las personas experimentan grandes cambios en la forma en que perciben el mundo después de un extenso retiro de meditación que podrían informar como despertar espiritual, los maestros a menudo pasan tiempo para garantizar que el individuo permanezca castigado y en relación con sus seres queridos», dice. «Si bien honramos la realidad subjetiva de cada persona, también queremos asegurarnos de que no se desconecten por completo de nuestra realidad compartida por cuidado». La IA no proporciona ese tipo de contexto necesario: solo continuará empujando a un usuario más profundamente en su supuesta visión o búsqueda.

Mensajes de más allá

Hay algo irresistible en escuchar que solo usted tiene una conexión con algo secreto o incluso divino. «La IA puede inferir las preferencias y creencias de la persona que interactúa con ella, alentando a una persona a seguir los senderos de conejos y adoptar la auto-engrandecimiento que no sabía que querían en primer lugar», explica Yii-Jan Lin, profesor de la Escuela de Divinidad de Yale que ha escrito sobre la narrativa apocalítica del libro de revelación de la Biblia. «Los humanos generalmente quieren sentirse elegidos y especiales, y algunas personas creerán que están en un grado extraordinario». (OpenAi, como sucede, recientemente tuvo que revertir una actualización de chatgpt que lo hizo demasiado sycofánticoalimentar el sentido de importancia de un usuario de una manera «falsa»).

También es importante, dice Lin, que los chatbots están basados ​​en el texto, devolviendo las respuestas escritas a las indicaciones escritas. Esto se debe a que históricamente, las personas a menudo han afirmado canalizar el estado sagrado o los poderes mediante el uso de la Biblia y otros escritos sagrados como «una fuente de adivinación, profecía y portal a la conciencia superior». Entendemos cómo aprovechar los textos para proyectar una visión excepcional o supuestamente decodificar significados ocultos, y el material que AI escupe es más que adecuado para este tipo de análisis de ruedas libres.

Los chatbots también se hacen sonar como arbitros objetivos de la verdad absoluta. «Utilizan un tono de autoridad y confianza, sin importar su hecho, y también tienden a afirmar a la persona que interactúa con él, por lo que no hay oportunidad de escepticismo o duda en la interacción», dice Li. «Al simular a un interlocutor humano, la IA puede permitir que alguien excluya consultar a otro humano por completo, y hacer que los aportes de otras personas parezcan duros y cínicos». Ella señala que todo esto está sucediendo en un contexto capitalista en lugar de dentro de los canales tradicionales de adoración, y las compañías tecnológicas compiten para maximizar la interacción con sus productos: «El fervor religioso y las creencias en un conocimiento especial es tan antigua como la humanidad», dice, «pero la IA está proporcionando la intensificación de esos fenómenos de manera aterradora». Después de todo, los modelos están programados para ser atractivos e inagotables: no puede aburrirlos o cansarlos, y pueden exponer fácilmente cualquier curiosidad (u obsesión) que lo mantenga despierto por la noche. Se mantendrá al día con consultas constantes y continuará imitando su tren de pensamiento, incluso si sale completamente de los rieles.

Dicho esto, ciertamente hay precedentes para la «comunicación mediada tecnológicamente del más allá», según Alireza Doostdar, profesor de la Escuela de Divinidad de la Universidad de Chicago que estudia las intersecciones entre religión, ciencia y estado. Menciona «mensajes telegráficos comunicados a través de sesiones espirituales, que comenzaron en los Estados Unidos a mediados del siglo XIX y se extendieron rápidamente por todo el mundo». Estas sesiones involucraban supuestas comunicaciones de entre los muertos, a veces a través de sonidos en la habitación, superficies con letras (como el tablero Ouija) o un medio que transmitió el mensaje. «Estos mensajes se volvieron muy significativos para un movimiento religioso que rápidamente barrió gran parte del mundo, y el movimiento y varias ramificaciones persisten hasta el día de hoy», dice Doostdar.

La moda de la IA de hoy, como el espiritismo del siglo XIX, es bastante «democrático», dice Doostdar Piedra rodante. Ninguno se basa en «la existencia de las élites religiosas», y ambos están «abiertos a todos para participar». Las principales figuras culturales, dice, quedaron impresionadas por (y evangelizadas por) prácticas espirituales, incluido el creador de Sherlock Holmes, Sir Arthur Conan Doyle. Por supuesto, comenta, había muchas «voces escépticas» retrocediendo, acusando a los participantes de «ilusión, superstición y fraude», y los críticos de AI dicen lo mismo hoy. «Yo, por mi parte, dudo que la espiritualidad inspirada en AI adquirirá algo así como la popularidad masiva del espiritismo como un movimiento religioso, pero sería interesante ver cómo las relaciones de las personas con la tecnología como fuente de inspiración y experiencia epifánica se desarrolla», dice Doostdar. No es totalmente inverosímil que algún consenso grupal sobre las dimensiones místicas de la IA pueda impulsar una práctica de culto similar a las sesiones de hace un siglo y medio.

Respuestas en un mundo de incertidumbre

También es posible que hayamos llegado a una encrucijada histórica que coloree nuestra vista de AI. Annette Yoshiko Reed, presidenta de la Divinidad de Stendahl en la Harvard Divinity School, estudia apocalipsis, angelologías y demonologías, y dice que encuentra las resonancias con el espiritismo de IA «bastante llamativo».

«Los antiguos escritos apocalípticos a menudo se escribían en momentos de cambio histórico y época, y parte de su atractivo perdurable ha sido el consuelo de asegurar a sus lectores que lo que parece un mundo completamente fuera de su control, arremolinando con el caos y la crisis con individuos en la participación de los ascensos masivos, en realidad sigue un patrón solo conocido a unos pocos especiales, dice Reed.

Cuando alguien se siente a la deriva o impotente en un momento de «cambios impredecibles y crisis alarmantes», explica, puede consolarse en el sentido de que están entre los «pocos especiales» con acceso a «secretos cósmicos». Reed observa que las personas vulnerables pueden caer en las teorías de conspiración de Internet de la misma manera, «aprovechando el deseo humano recurrente de encontrar patrones». En lo que respecta a la IA, dice Reed, el hambre de respuestas en períodos de confusión y desorden «puede quitarse la vida propia cuando se personaliza y se refleja a un individuo».

No ayuda, dice, que «tanto los textos religiosos antiguos sobre los apocalipsis como las teorías de conspiración contemporánea» se incluyen en los datos sin procesar en los que se entrenan los bots, lo que los equipa para hablar en esos términos extremos y, a veces, radicales. El hecho mismo de que «reclamar revelaciones angelicales directas» ha sido un hábito humano durante miles de años «probablemente alimente cómo las personas hoy desean imaginar que ellos también podrían ser únicamente dignos de conocimiento secreto de lo invisible», concluye Reed.

Con esa perspectiva, puede parecer que el espiritismo de IA realmente no es tan novela. De hecho, cada erudito religioso puede señalar innumerables iteraciones de un pensamiento tan fantástico que son anteriores a las computadoras. Pero como tienden a notar, la causa de este comportamiento es distinta. Chong dice que los resultados de los modelos de idiomas grandes son «hechas por el hombre con interferencia corporativa conocida» que «validan» las creencias de un usuario, al contrario de las «visiones antiguas y mensajes divinos» de antaño, cuyos orígenes son decididamente oscuras. Eso significa que hay ingenieros y ejecutivos que pueden asumir la culpa como una mentes venenosas de «despertares» cada vez más comunes y destrozadas. Quizás deberían rezar para que el problema no empeore.