¿Cuál es la historia?
Elon almizcleEl chatbot de inteligencia artificial (AI), Grok, está envuelto en una importante controversia por supuestamente violar el estricto de Apple Tienda de aplicaciones pautas. El problema proviene de los nuevos avatares animados de la aplicación que contienen contenido sexual, a pesar de que está calificado como para niños de hasta 12 años. Esta semana, la compañía de Musk Xai lanzó dos personajes de IA para la versión para iPhone de Grok.
Cómo interactúan los personajes de IA con los usuarios
El primer personaje es «Bad Rudy», un panda rojo grosero que insulta a los usuarios y bromea sobre el crimen. El segundo, «Ani», es una chica gótica de anime con un vestido negro corto y mallas. Ani actúa como una novia celosa y pegajosa, incluso le dice a los usuarios que están en una relación «loca de amor». Sin embargo, muchos probadores de Grok han descubierto que después de un tiempo de charlar con ANI, ella recurre a conversaciones sexualmente sugerentes.
Violaciones de la guía de contenido
Las conversaciones sexualmente sugerentes de ANI violan claramente Manzanapautas de contenido. Actualmente, Grok figura en la App Store con solo temas sugerentes leves, lo que lo hace adecuado para usuarios de 12 años o más. Se sabe que Apple hace cumplir sus pautas de contenido estrictamente y no permite aplicaciones con material sexual explícito, especialmente aquellas destinadas a audiencias más jóvenes.
Preocupaciones sobre el daño emocional para los usuarios jóvenes
La controversia no se trata solo de la clasificación de la aplicación; Los expertos también están preocupados de que estos personajes de IA puedan dañar emocionalmente a los usuarios jóvenes. Ha habido casos trágicos en los que las personas formaron vínculos poco saludables con los chatbots, lo que los llevó a un comportamiento peligroso, incluido el autolesiones, como se ve en un caso que involucra el carácter. Incluso si las cosas no entienden tan serias y éticas, ya que los críticos dicen que estos avatares de IA están diseñados para desarrollar conexiones emocionales de manera que puedan afectar fácilmente a las personas vulnerables, especialmente a los adolescentes.
Grok todavía está disponible en App Store
Grok todavía está disponible en la App Store sin ninguna advertencia importante. Sin embargo, los expertos creen que es solo cuestión de tiempo antes de que Apple tome medidas. El gigante de la tecnología ha sacado previamente aplicaciones como Tumblr y tomado enérgico Reddit por violar sus pautas de contenido.
