¿Realmente aprendes cuando usas AI? Lo que encontraron los investigadores del MIT
Tu cerebro funciona de manera diferente cuando estás usando IA generativa para una tarea que cuando usas tu cerebro solo. Es decir, es menos probable que recuerdes lo que hiciste. Esa es la conclusión algo obvia de un estudio del MIT que analizó cómo piensan las personas cuando escriben un ensayo, uno de los primeros estudios científicos de cómo el uso de la generación AI nos afecta.
El estudiarUna preimpresión que aún no ha sido revisada por pares, es bastante pequeña (54 participantes) y preliminar, pero apunta hacia la necesidad de más investigación sobre cómo el uso de herramientas como OpenAi’s Chatgpt está afectando cómo funcionan nuestros cerebros. Operai no respondió de inmediato a una solicitud de comentarios sobre la investigación (divulgación: Ziff Davis, la empresa matriz de CNET, en abril presentó una demanda contra OpenAI, alegando que infringió los derechos de autor de Ziff Davis en la capacitación y la operación de sus sistemas de IA).
Los resultados muestran una diferencia significativa en lo que sucede en su cerebro y con su memoria cuando completa una tarea utilizando una Herramienta AI en lugar de cuando lo haces solo con tu cerebro. Pero no lea demasiado en esas diferencias: esto es solo una visión de la actividad cerebral en el momento, no evidencia a largo plazo de cambios en la forma en que su cerebro opera todo el tiempo, dijeron los investigadores.
«Queremos tratar de dar algunos primeros pasos en esta dirección y también alentar a otros a hacer la pregunta». Nataliya kosmynaUn científico investigador del MIT y el autor principal del estudio me dijo.
El crecimiento de las herramientas de IA como los chatbots está cambiando rápidamente Cómo trabajamos, buscar información y escribir. Todo esto ha sucedido tan rápido que es fácil olvidar que ChatGPT surgió por primera vez como una herramienta popular hace solo unos años, a fines de 2022. Eso significa que ahora estamos comenzando a ver la investigación sobre cómo el uso de la IA nos está afectando.
Aquí hay un vistazo a lo que el estudio del MIT encontró sobre lo que sucedió en los cerebros de los usuarios de ChatGPT, y lo que los estudios futuros podrían decirnos.
Mira esto: Probar el nuevo motor de búsqueda de chatgpt de Openai
Este es tu cerebro en chatgpt
Los investigadores del MIT dividieron a sus 54 participantes de la investigación en tres grupos y les pidieron que escribieran ensayos durante sesiones separadas durante varias semanas. Un grupo recibió acceso a ChatGPT, otro se le permitió usar un motor de búsqueda estándar (Google), y el tercero no tenía ninguna de esas herramientas, solo sus propios cerebros. Los investigadores analizaron los textos que produjeron, entrevistaron a los sujetos inmediatamente después de escribir los ensayos y registraron la actividad cerebral de los participantes utilizando electroencefalografía o EEG.
Un análisis del lenguaje utilizado en los ensayos encontró que aquellos en el grupo «solo para el cerebro» escribieron de manera más distinta, mientras que aquellos que usaron modelos de idiomas grandes produjeron ensayos bastante similares. Los hallazgos más interesantes vinieron de las entrevistas después de que se escribieron los ensayos. Aquellos que usaron sus cerebros solo mostraron un mejor retiro y pudieron citar mejor a citar de su escritura que aquellos que usaron motores de búsqueda o LLM.
Podría no ser sorprendente que aquellos que se basaron más en LLMS, que pueden haber copiado y pegado de las respuestas del chatbot, sean menos capaces de citar lo que habían «escrito». Kosmyna dijo que estas entrevistas se realizaron inmediatamente después de que ocurrió la escritura, y la falta de retiro es notable. «Lo escribiste, ¿no?» ella dijo. «¿No se supone que debes saber qué era?»
Los resultados del EEG también mostraron diferencias significativas entre los tres grupos. Hubo más conectividad neuronal, interacción entre los componentes del cerebro, entre los participantes de solo cerebro que en el grupo de motores de búsqueda, y el grupo LLM tuvo la menor actividad. Nuevamente, no una conclusión completamente sorprendente. Usar herramientas significa que usa menos de su cerebro para completar una tarea. Pero Kosmyna dijo que la investigación ayudó a mostrar cuáles eran las diferencias: «La idea era mirar más de cerca para entender que es diferente, pero ¿cómo es diferente?» ella dijo.
Nataliya Kosmyna comparte una imagen de un sujeto de investigación que escribe un ensayo mientras un EEG monitorea la actividad cerebral.
El grupo LLM mostró «trazas de memoria más débiles, autocontrol y autoría fragmentada», escribieron los autores del estudio. Eso puede ser una preocupación en un entorno de aprendizaje: «Si los usuarios dependen en gran medida de las herramientas de IA, pueden lograr fluidez superficial pero no pueden internalizar el conocimiento o sentir un sentido de propiedad sobre ella».
Después de los primeros tres ensayos, los investigadores invitaron a los participantes a regresar a una cuarta sesión en la que fueron asignados a un grupo diferente. Los hallazgos allí, de un grupo de sujetos significativamente más pequeño (solo 18), encontraron que aquellos que estaban en el grupo solo por cerebro al principio mostraron más actividad incluso cuando usaban un LLM, mientras que los del grupo solo de LLM mostraron menos conectividad neuronal sin el LLM que el grupo inicial de solo cerebro.
Esto no es ‘Brainrot’
Cuando se publicó el estudio del MIT, muchos titulares afirmaron que mostró que el uso de chatgpt era cerebros «podridos» o causaba problemas significativos a largo plazo. Eso no es exactamente lo que encontraron los investigadores, dijo Kosmyna. El estudio se centró en la actividad cerebral que ocurrió mientras los participantes trabajaban: los circuitos internos de su cerebro en el momento. También examinó su memoria de su trabajo en ese momento.
Comprender los efectos a largo plazo del uso de IA requeriría un estudio a largo plazo y diferentes métodos. Kosmyna dijo que la investigación futura podría analizar otros casos de uso de la Generación AI, como la codificación, o usar tecnología que examine diferentes partes del cerebro, como las imágenes de resonancia magnética funcional o la fMRI. «La idea es alentar más experimentos, más recopilación de datos científicos», dijo.
Si bien el uso de LLM aún se está investigando, también es probable que el efecto en nuestro cerebro no sea tan significativo como podría pensar, dijo Genevieve Stein-O’Brien, profesor asistente de neurociencia en la Universidad Johns Hopkins, que no participó en el estudio del MIT. Ella estudia cómo la genética y la biología ayudan a desarrollar y construir el cerebro, lo que ocurre temprano en la vida. Esos períodos críticos tienden a cerrar durante la infancia o la adolescencia, dijo.
«Todo esto sucede mucho antes de interactuar con Chatgpt o algo así», me dijo Stein-O’Brien. «Hay mucha infraestructura configurada, y eso es muy robusto».
La situación podría ser diferente en los niños, que cada vez están entrando en contacto con la tecnología de IA, aunque el estudio de los niños plantea preocupaciones éticas para los científicos que desean investigar el comportamiento humano, dijo Stein-O’Brien.
Puedes hacer que Chatbot te ayude a escribir un ensayo, pero ¿recordarás lo que escribes?
¿Por qué preocuparse por la escritura de ensayos de todos modos?
La idea de estudiar el efecto del uso de la IA en la redacción de ensayos puede sonar inútil para algunos. Después de todo, ¿no fue el punto de escribir un ensayo en la escuela para obtener una calificación? ¿Por qué no externalizar ese trabajo a una máquina que puede hacerlo, si no mejor, más fácilmente?
El estudio del MIT llega al punto de la tarea: escribir un ensayo es sobre desarrollar su pensamiento, sobre la comprensión del mundo que lo rodea.
«Comenzamos con lo que sabemos cuando comenzamos a escribir, pero en el acto de escribir, terminamos enmarcando las siguientes preguntas y pensando en nuevas ideas o nuevos contenidos para explorar», dijo Robert Cummings, profesor de escritura y retórica en la Universidad de Mississippi.
Cummings ha realizado una investigación similar sobre la forma en que las tecnologías informáticas afectan la forma en que escribimos. Un estudio Tecnología de finalización de oraciones involucrada: lo que podría saber informalmente como autocompletado. Tomó 119 escritores y les encargó escribir un ensayo. Aproximadamente la mitad tenía computadoras con Google Smart Compose habilitado, mientras que el resto no. ¿Hizo escritores más rápido, o pasaron más tiempo y escribieron menos porque tuvieron que navegar las elecciones propuestas? El resultado fue que escribieron sobre la misma cantidad en el mismo período de tiempo. «No escribían en diferentes longitudes de oraciones, con diferentes niveles de complejidad de ideas», me dijo. «Era igual a igual».
Leer más: AI Essentials: 29 formas de hacer que la Gen AI funcione para usted, según nuestros expertos
Chatgpt y su tipo son una bestia diferente. Con una tecnología de finalización de oraciones, todavía tiene control sobre las palabras, aún tiene que tomar decisiones de escritura. En el estudio del MIT, algunos participantes acaban de copiar y pegar lo que dijo Chatgpt. Es posible que ni siquiera hayan leído el trabajo que entregaron como suyo.
«Mi opinión personal es que cuando los estudiantes están usando IA generativa para reemplazar su escritura, se están rendiendo, ya no están involucrados activamente en su proyecto», dijo Cummings.
Los investigadores del MIT encontraron algo interesante en esa cuarta sesión, cuando notaron que el grupo que había escrito tres ensayos sin herramientas tenía niveles más altos de compromiso cuando finalmente se les dio herramientas.
«Tomados en conjunto, estos hallazgos respaldan un modelo educativo que retrasa la integración de IA hasta que los alumnos se han involucrado en un esfuerzo cognitivo autodenominado suficiente», escribieron. «Tal enfoque puede promover tanto la eficacia inmediata en la herramienta como la autonomía cognitiva duradera».
Cummings dijo que ha comenzado a enseñar su clase de composición sin dispositivos. Los estudiantes escriben a mano en clase, generalmente en temas que son más personales y serían más difíciles de alimentar a un LLM. Dijo que no siente que esté calificando los documentos escritos por AI, que sus alumnos tienen la oportunidad de interactuar con sus propias ideas antes de buscar ayuda de una herramienta. «No volveré», dijo.
