Cientos de miles de chats de Grok expuestos en los resultados de Google

Cientos de miles de conversaciones de usuarios con el chatbot Grok de inteligencia artificial (AI) de Elon Musk se han expuesto en los resultados de los motores de búsqueda, aparentemente sin el conocimiento de los usuarios.

Los enlaces únicos se crean cuando los usuarios de Grok presionan un botón para compartir una transcripción de su conversación, pero además de compartir el chat con el destinatario previsto, el botón también parece haber hecho que los chats se hayan buscado en línea.

Una búsqueda en Google el jueves reveló que había indexado casi 300,000 conversaciones de Grok.

Ha llevado a un experto a describir los chatbots de IA como un «desastre de privacidad en progreso».

La BBC se ha acercado a X para hacer comentarios.

La aparición de los chats de Grok en los resultados del motor de búsqueda fue informado por primera vez por la publicación de la industria tecnológica Forbes, que contó más de 370,000 Conversaciones de usuario en Google.

Entre las transcripciones de chat vistas por la BBC había ejemplos de chatbot de Musk que se pidieron que creara una contraseña segura, proporcione planes de comidas para perder peso y responda preguntas detalladas sobre afecciones médicas.

Algunas transcripciones indexadas también mostraron los intentos de los usuarios de probar los límites de lo que Grok diría o hacer.

En un ejemplo visto por la BBC, el chatbot proporcionó instrucciones detalladas sobre cómo hacer una droga de clase A en un laboratorio.

No es la primera vez que las conversaciones de las personas con los chatbots de IA han parecido más ampliamente de lo que tal vez se dieron cuenta inicialmente al usar funciones de «compartir».

Operai recientemente remitió un «experimento» que vio que las conversaciones de ChatGPT aparecen en los resultados del motor de búsqueda cuando los usuarios comparten.

Un portavoz dijo a BBC News en ese momento que había sido «probar formas de facilitar la compartir conversaciones útiles, mientras mantiene a los usuarios en control».

Dijeron que los chats de usuarios eran privados de forma predeterminada y que los usuarios tuvieron que optar explícitamente a compartirlos.

A principios de este año, Meta enfrentó críticas después de conversaciones de usuarios compartidos con su chatbot meta ai apareció en una alimentación pública «descubrir» en su aplicación.

Si bien los detalles de la cuenta de los usuarios pueden ser anonimizados u oscurecidos en las transcripciones de chatbot compartidas, sus indicaciones aún pueden contener información personal y confidencial sobre alguien.

Los expertos dicen que esto destaca las crecientes preocupaciones sobre la privacidad de los usuarios.

«Los chatbots de IA son un desastre de la privacidad en progreso», dijo el profesor asociado, profesor asociado del Instituto de Internet de Oxford, a la BBC.

Dijeron que las «conversaciones filtradas» de los chatbots han divulgado la información del usuario que van desde nombres y ubicación completos, hasta detalles confidenciales sobre su salud mental, operaciones comerciales o relaciones.

«Una vez filtrado en línea, estas conversaciones permanecerán allí para siempre», agregaron.

Mientras tanto, Carissa Veliz, profesora asociada de filosofía en el Instituto de Ética de la IA de la Universidad de Oxford, dijo que los usuarios que no se les dicen que los chats compartidos aparecerían en los resultados de búsqueda es «problemático».

«Nuestra tecnología ni siquiera nos dice qué está haciendo con nuestros datos, y eso es un problema», dijo.