Para decenas de millones de personas en TiktokLa comprensión de que AI podría estar mejorando no fue un comunicado de prensa o un artículo: era un video de una docena de conejitos que saltaban en un trampolín.
El clipPublicado por primera vez por una cuenta desconocida de Tiktok @RachelThecatlovers, mostró una manada de conejitos descendientes en un trampolín suburbano a altas horas de la noche, subtitulada «Acabo de revisar la cámara de seguridad del hogar y … ¡creo que tenemos a los artistas invitados de regreso!» Los videos de estilo vigilancia ya conforman un gran carril de contenido en la aplicación, pero lo que consiguió a los 230 millones de personas que lo vieron fue que el video era convincente … casi. Tanta gente se sorprendió de que este video de IA los hubiera engañado, incluso por un momento, que desencadenó un ola de alarma a través de la aplicación.
Internet ha recorrido un largo camino desde que la prueba más ampliamente reconocida para la IA fue producir un video convincente de Will Smith comiendo un tazón de espagueti – Algo que los modelos más tempranos simplemente no podían hacer. Ahora, con fotos y videos generados o modificados de IA inundando las redes sociales, saber cómo detectar imágenes alteradas o manipuladas puede ser la clave para el consumo crítico de los medios.
Piedra rodante Habló con varios expertos en tecnología y IA sobre las mejores formas de detectar contenido de IA, al menos por ahora.
Piense por literalmente más de un segundo
Las imágenes manipuladas o generadas por AI pueden ejecutar desde la gama desde información errónea política hasta ediciones de video casi indetectables. Pero según el profesor de informática de la Universidad de Princeton, Zhuang Liu, una de las formas más fáciles de detectar imágenes de IA es simplemente pensar si lo que está viendo es realmente posible.
«Si no es plausible en el mundo real, entonces obviamente se genera AI», le dice Piedra rodante. «Por ejemplo, un caballo en la luna o una silla hecha de aguacate. Así que obviamente se generan AI. Ese es el caso más fácil».
El siguiente paso es verificar la fuente donde encontró la imagen. Esto no necesariamente funciona para el contenido viral, especialmente porque a menudo provienen de cuentas previamente desconocidas, pero ver un video en una página de memes podría ser una pista de que no es real. Verificar sus fuentes, incluida la búsqueda del video en sitios legítimos o usar la búsqueda de imágenes inversas, puede ayudar si está tratando de verificar una foto, especialmente si es de naturaleza política.
Pon tu sombrero crítico de arte
La identificación de AI con precisión puede ser fácil. Pero cuando una imagen o video parece plausible, es cuando realmente tienes que usar otras pistas para tratar de detectar IA. VS Subrahmanian, director del Northwestern University Security and AI Lab, cuenta Piedra rodante Esa determinación de si se genera una imagen que se genera AI comienza con descomponer una foto en componentes. Si bien el resultado final puede parecer creíble, a menudo hay pistas de que los objetos en una foto no respetan las reglas de la física. Cosas como las sombras a menudo pueden ser una pista de que una foto fue hecha por IA, o videos donde la fuente de luz parece imposible de obtener. Otra gran pista es mirar claramente las transiciones en la foto, como donde terminan los cuerpos de las personas y comienzan los árboles o las imágenes de fondo.
«Estamos buscando cosas que sean difíciles para una falsificación profunda para acertar», dice. «Digamos que estoy mirando la oreja de una persona y hay un fondo desordenado detrás de esto. La IA no siempre se da cuenta de que una oreja tiene un límite afilado. Tiene un extremo claro. Por lo tanto, cuando genera falsificaciones, puede haber desenfoque allí».
El profesor de informática de la Universidad de Nueva York, Saining Xie, agrega que este tipo de pensamiento crítico también se puede hacer a los videos. «Busque detalles realmente extraños. Verifique la escritura antinatural», dice. «Si hay un espejo (o) agua, a veces hay un reflejo distorsionado, una sombra no coincidente. Pausa a diferentes marcos y busque problemas técnicos, caras distorsionadas y fondos».
Piense en la manipulación, no solo la generación de IA
Si bien el contenido generado por la IA puede ser un problema, muchas personas no consideran que algunas imágenes pueden ser manipuladas en lugar de la ropa entera creada, lo que puede hacer que las falsificaciones se vean aún más reales. Uno de los mejores ejemplos de esto es en mensajes políticos y información errónea, que a menudo puede usar videoclips reales pero reemplazar el audio, o mantener el audio verificado mientras cambia ligeramente lo que las personas están haciendo en la pantalla. Estos microjustes pueden ser más difíciles de detectar, por lo que los expertos dicen que debe buscar videos desde múltiples ángulos, pero lo más importante, ser escépticos.
«Mantenga una mentalidad de pensamiento crítico», dice Liu. «Verifique si la fuente es confiable y piensa: ‘¿Cuál podría ser la intención de la entidad que está compartiendo esto? ¿Es para obtener seguidores en las redes sociales o es promover algunos productos?’ Estar libre de la intención «.
«Estamos activamente en una era posterior a la verdad. Y necesitamos cambiar nuestra mentalidad que ver es creer», agrega Xie. «Para el usuario promedio de Internet, el valor predeterminado debe ser escepticismo».
Comprender el mayor problema
A medida que las compañías tecnológicas continúan invirtiendo miles de millones en avances de IA, está muy claro que fácilmente podría haber un futuro en el que se vuelve increíblemente difícil identificar imágenes generadas por IA de fotografías y videos reales. El 27 de agosto, Google lanzó una importante actualización a su editor de fotos Gemini AI, que Google ha anunciado que tiene una capacidad de representación sofisticada.
«Identificar (AI) se está volviendo cada vez más difícil», dice Xie. «Si me preguntaras ayer, te daría una respuesta diferente. Pero ahora, el modelo de Google ha avanzado a un nuevo nivel. Muchas de estas herramientas de inspección viral podrían no ser válidas».
Aquí es donde termina la percepción pública y comienza la responsabilidad corporativa. Todos los expertos que hablaron Piedra rodante Digamos que las empresas detrás de estos modelos enormemente exitosos tienen la responsabilidad de desarrollar técnicas de marca de agua que estén explícitamente cuando las imágenes se hicieron con sus modelos.
«Este tipo de autenticación debe hacerse a partir de este tipo de edición de imágenes, el lado del proveedor de generación también», dice Xie. «Muchos proveedores de generación de imágenes no tienen este servicio. Pero creo que en el futuro, las personas se preocuparán más por la responsabilidad y la seguridad, y (las empresas) agregarán más salvaguardas. Soy bastante optimista sobre eso».
Liu señala que, si bien el consumidor promedio ha estado preocupado por identificar imágenes de IA, muchas compañías han desarrollado modelos de IA que pueden identificar con precisión cuándo se ha generado o manipulado una imagen, pero muchas no están disponibles para el público.
Subrahmanian está de acuerdo en que las empresas tecnológicas tienen la responsabilidad de identificar y etiquetar sus creaciones de IA. Pero señala que incluso con los cambios en todos los ámbitos, no se aplicaría a las personas que usan sus propios modelos desarrollados o más nuevos. «Creo que la cantidad de empresas tecnológicas que están publicando algoritmos para crear falsificaciones profundas en realidad están comenzando a poner en marcas de agua», Subrahmanian. «Pero los actores (malignos) pueden elegir ese tipo de cosas, y eso es mucho más difícil de regular».
No hay una buena respuesta sobre cómo mantener las compuertas de Internet que se mantienen fuertes contra las olas de las imágenes de IA. Habrá otra plaga de conejitos en trampolines que envían aplicaciones a un pánico, o un video de una figura política que convence a las personas al margen de algo completamente inverosímil. Pero mientras estos desarrollos continúan, lo más fuerte que la persona promedio tiene para combatir contra la IA es su propio pensamiento crítico.
«Al final del día, muchas de las cosas que estás viendo han sido creadas por extraños, y debes tratarlo con el mismo escepticismo que tratarías una solicitud abierta de dinero de una persona desconocida», dice Subrahmanian. «El sentido común es un recurso muy subestimado».
