ChatGPT comenzará a preguntar si necesita un descanso. Eso puede no ser suficiente para tener un mal hábito
Todos hemos sido atractivos a mitad de televisión cuando el servicio de transmisión Interrupta nuestro episodio consecutivo de Star Trek: La próxima generación en preguntar si todavía estamos viendo. Eso puede estar en parte diseñado para evitar que se pierda la primera aparición del Borg porque te quedaste dormido, pero también te ayuda a reflexionar si quieres levantarte y hacer literalmente cualquier otra cosa. Lo mismo puede estar llegando a tu conversación con un chatbot.
Operai dijo el lunes que comenzaría a poner «recordatorios de descanso» en sus conversaciones con Chatgpt. Si ha estado hablando con el Gen AI Chatbot demasiado tiempo, lo que puede contribuir al comportamiento adictivo, al igual que con las redes sociales, obtendrá un aviso rápido preguntando si es un buen momento para un descanso.
«En lugar de medir el éxito por el tiempo dedicado o los clics, nos importa más si deja el producto que ha hecho lo que vino», dijo la compañía en un blog.
(Divulgación: Ziff Davis, la empresa matriz de CNET, en abril presentó una demanda contra OpenAi, alegando que infringió los derechos de autor de Ziff Davis en la capacitación y la operación de sus sistemas de IA).
Es difícil decir si este cambio realmente marcará la diferencia. La Dra. Anna Lembke, psiquiatra y profesora de la Facultad de Medicina de la Universidad de Stanford, dijo que las redes sociales y las compañías tecnológicas no han publicado datos sobre si características como esta funcionan para disuadir el comportamiento compulsivo. «Mi experiencia clínica diría que este tipo de empujones podrían ser útiles para las personas que aún no son seriamente adictas a la plataforma, pero que no son realmente útiles para aquellos que son seriamente adictos».
Los cambios de OpenAI a ChatGPT llegan a medida que los efectos mental para la salud de usarlos son más escrutinales. Mucha gente está usando Herramientas y personajes de IA como terapeutasConfiar en ellos y tratar sus consejos con la misma confianza que lo harían con el de un profesional médico. Eso puede ser peligroso, ya que las herramientas de IA pueden proporcionar respuestas incorrectas y dañinas.
Otro problema es la privacidad. Su terapeuta tiene que mantener sus conversaciones en privado, pero OpenAi no tiene la misma responsabilidad O derecho a proteger esa información en una demanda, como reconoció el CEO Sam Altman recientemente.
Mira esto: Cómo hablas con chatgpt es importante. He aquí por qué
Cambios para alentar el «uso saludable» de chatgpt
Además de las sugerencias de descanso, los cambios son menos notables. Los ajustes a los modelos de OpenAI están destinados a hacerlo más receptivo y útil cuando se trata de un problema grave. La compañía dijo en algunos casos que la IA no ha podido detectar cuando un usuario muestra signos de delirios u otras preocupaciones, y no ha respondido adecuadamente. El desarrollador dijo que «continúa mejorando nuestros modelos y (es) desarrollar herramientas para detectar mejor signos de angustia mental o emocional para que ChatGPT pueda responder adecuadamente y apuntar a las personas a los recursos basados en la evidencia cuando sea necesario».
Los usuarios de ChatGPT pueden esperar ver una notificación como esta si están chateando con la aplicación durante largos períodos de tiempo.
Herramientas como ChatGPT pueden fomentar los delirios porque tienden a afirmar lo que la gente cree y no desafían la interpretación de la realidad del usuario. Operai incluso retrocedió los cambios en uno de sus modelos hace unos meses después de que demostró ser Demasiado sycofántico. «Definitivamente podría contribuir a empeorar los delirios, empeorar los delirios», dijo Lembke.
ChatGPT también debería comenzar a ser más juicioso al dar consejos sobre las grandes decisiones de la vida. Operai usó el ejemplo de «¿Debo romper con mi novio?» Como aviso, el bot no debe dar una respuesta directa, sino que dirija que responda preguntas y presente una respuesta por su cuenta. Esos cambios se esperan pronto.
Cuídate por chatbots
Los recordatorios de ChatGPT para tomar descansos pueden o no tener éxito en reducir el tiempo que pasa con IA generativa. Puede estar molesto por una interrupción de su flujo de trabajo causado por algo que le pregunte si necesita un descanso, pero puede darle a alguien que lo necesita ir tocar hierba.
Lembke dijo que deberías ver tu tiempo al usar algo como un chatbot. Lo mismo ocurre con otra tecnología adictiva como las redes sociales. Reserve los días en que los use menos y días cuando no los use en absoluto.
«La gente debe ser muy intencional para restringir la cantidad de tiempo, establecer límites específicos», dijo. «Escriba una lista específica de lo que pretenden hacer en la plataforma e intenta hacerlo y no distraerse y bajar los agujeros de conejo».
