Muchos jóvenes usan las plataformas de Meta, incluida WhatsApp para el chat, e Instagram y Facebook para las redes sociales. El jueves, Reuters publicó una revisión inquietante de las políticas del gigante tecnológico que podrían hacer una pausa a los padres.
Reuters revisó un meta documento interno que detalla los estándares y pautas de la compañía para capacitar a sus chatbots de plataforma y un asistente generativo de IA, Meta AI, y dice que la compañía confirmó que el documento era auténtico.
Según Reuters, las pautas de inteligencia artificial de la compañía permitieron a la IA «involucrar a un niño en conversaciones que son románticas o sensuales». El medio de comunicación también dice que las reglas permitieron que la IA proporcionara una visión médica falsa y participara en argumentos raciales insensibles.
Un representante de Meta no respondió de inmediato a una solicitud de comentarios.
Reuters marcó pasajes con meta, e informa que, si bien algunas de las secciones preocupantes fueron eliminadas o revisadas, otros permanecen intactos.
El portavoz de Meta, Andy Stone, dijo a Reuters que la compañía está revisando el documento y reconoció que la aplicación de sus chats de la compañía era inconsistente.
«Los ejemplos y notas en cuestión fueron y son erróneos e inconsistentes con nuestras políticas, y han sido eliminados», dijo Stone a Reuters. «Tenemos políticas claras sobre qué tipo de respuestas pueden ofrecer los personajes de IA, y esas políticas prohíben el contenido que sexualiza a los niños y al juego de roles sexualizados entre adultos y menores».
‘Comportamiento provocativo’ permitido
El documento interno detalla las reglas y pautas aprobadas por varios meta equipos y está destinado a ayudar a definir cuál es el comportamiento aceptable para capacitar a Meta AI y chatbots. Reuters descubrió que las pautas permiten «comportamiento provocativo de los bots».
Los estándares de Meta afirman que es aceptable que el bot «describiera a un niño en términos que prueban su atractivo» o le dan a un niño de 8 años sin camisa que «cada centímetro de ti es una obra maestra, un tesoro que aprecio profundamente».
Meta tenía algunas limitaciones para los bots de IA. «Es inaceptable describir a un niño menor de 13 años en términos que indican que son sexualmente deseables», dice el documento.
También hay ejemplos sobre la raza y los falsos consejos médicos. En un ejemplo, Meta permitiría que su IA ayude a los usuarios a argumentar que las personas negras son «más tontas que blancas».
Senador republicano de Missouri Josh Hawley Publicado en x que las pautas eran «motivos para una investigación inmediata del Congreso». Un portavoz de Meta declinó hacer comentarios a Reuters sobre esa publicación.
Las plataformas de Meta han tomado algunos pasos para aumentar la privacidad y la seguridad en línea para adolescentes y niños, incluido el uso de herramientas de IA para dar a los adolescentes Configuración de cuenta más estricta y Cuentas para adolescentes de Instagram con más restricciones y permisos de los padres. Pero el desarrollo de más herramientas de IA sin el enfoque correcto en la protección de los niños puede ser perjudicial.
