Adolescentes que usan IA para hacer desnudos falsos de compañeros de clase
Han convertido a la tecnología en un arma, y nadie está a salvo del escándalo.
Los adolescentes están utilizando inteligencia artificial para preparar Imágenes desnudas inquietantemente realistas de sus compañeros de clase, y luego compartirlos como un incendio forestal digital, enviar ondas de choque a través de las escuelas y dejar a los expertos temiendo lo peor.
Las herramientas con IA, a menudo denominadas aplicaciones «Nudify», son tan siniestras como suenan. Con solo un tiro en la cabeza, a menudo levantado de una foto del anuario o perfil de redes sociales, estas aplicaciones pueden fabricar imágenes explícitas de Deepfake que parecen terriblemente reales.
Y si, es ya pasando en las escuelas.
Estas imágenes hiperrealistas, forjadas con herramientas de IA, están convirtiendo el acoso escolar en un Pesadilla de alta tecnología.
«Ahora estamos en un lugar donde no puedes hacer nada e historias y fotos sobre ti en línea», dijo Don Austin, superintendente del Distrito Escolar Unificado de Palo Alto. Fox News Digital.
«Están fabricados. Están completamente inventados a través de AI y puede tener su voz o cara. Ese es un mundo completamente diferente».
Esta es una crisis digital completa. El verano pasado, la oficina del abogado de la ciudad de San Francisco demandó 16 llamados Sitios web de «Nudify» por supuestamente violar las leyes en torno a la explotación infantil e imágenes no consensuadas.
Esos sitios solo acumularon más de 200 millones de visitas en la primera mitad de 2023.
¿Pero atrapar a las compañías tecnológicas detrás de estas herramientas? Eso es como jugar un juego de Whac-A-Mole.
La mayoría ha patinado las leyes estatales actuales, aunque algunas, como Minnesota, están tratando de aprobar la legislación para responsabilizarlos Para los estragos que están causando.
Aún así, la tecnología se mueve más rápido que la ley, y los niños están atrapados en el fuego cruzado.
Josh Ochs, fundador de SmartSocial, una organización que capacita a las familias con seguridad en línea, le dijo a Fox News Digital que los desnudos generados por IA están causando un «daño extremo» a los adolescentes de todo el país.
«Los niños en estos días subirán quizás un tiro en la cabeza de otro niño en la escuela y la aplicación recreará el cuerpo de la persona como si estuvieran desnudos», reveló Ochs a la salida.
«Esto causa un daño extremo a ese niño que podría estar en la foto, y especialmente a sus amigos y a toda una familia», señaló.
Dijo que los padres deben detener de puntillas en las vidas digitales de sus hijos y comenzar a establecer algunos límites.
«Antes de darle a sus hijos un teléfono o redes sociales, es hora de tener esa discusión temprano y con frecuencia. Oye, este es un préstamo para usted, y puedo recuperarlo en cualquier momento porque realmente podría dañar a nuestra familia», dijo Ochs.
En febrero, el Senado de los Estados Unidos aprobó por unanimidad un proyecto de ley para criminalizar la publicación, o incluso amenazar con publicar, porno no consensuado de IA Deepfake.
Ahora espera una acción adicional.
Austin dijo que la única forma de adelantarse a la curva es seguir hablando, con padres, maestros, estudiantes y cualquier otra persona que escuche.
«Esto no va a desaparecer», advirtió. «Está evolucionando y rápido».
