En el período previo a las elecciones de 2024, una red de cientos de bots creados por personas anónimas compartió publicaciones en X que sembró desconfianza en Kamala Harris y llamado Republicanos para unir detrás Donald Trump. Después de la victoria de Trump y el regreso al cargo, los bots comenzaron a hacer elogios a las cifras de su administración, incluido el Secretario de Salud y Servicios Humanos. Robert F. Kennedy Jr. y secretario de prensa de la Casa Blanca Karoline Leavitt.
A Mapa La campaña de influencia compuesta por cuentas de redes sociales falsas no es particularmente inusual, ni son preocupaciones sobre la actividad digital no auténtica en general. (Un análisis reciente de la compañía de ciberseguridad Imperva afirmó que el tráfico automatizado ahora representa la mitad de todo el tráfico web.) Pero esta red BOT tenía una distinción importante. Quien lo construyó estaba usando IA, modelos de idiomas grandes, para generar su contenido. Por un lado, eso lo hizo más eficiente y menos obvio. Por otro lado, planteó problemas en el futuro. Cuando Trumpworld fue arrojado a la agitación sobre el manejo del presidente de archivos clasificados relacionados con el delincuente sexual tardío Jeffrey EpsteinPor ejemplo, los bots de repente tomaron partido, con algunos atacantes a Trump y el Fiscal General Pam Bondi como otros defendieron la administración.
Ese notable cisma entre las cuentas X automatizadas se describe en un nuevo informe De Alethea, una firma de análisis que se especializa en tecnología de mitigación de riesgos en línea. Su plataforma de IA, Artemis, descubrió al menos 400 perfiles BOGUS X involucrados en la campaña, que se basaron en lo que los investigadores de la compañía denominaron «Prompasta». A diferencia de la llamada «Copypasta», donde las frases se copian a pie de una cuenta a la siguiente y, por lo tanto, más notables, los LLM responden a las entradas de los usuarios con un rango de respuestas similares aunque diferenciadas. «Las salidas de Prompasta son matizadas, con variaciones en el fraseo entre las publicaciones que corresponden a cada indicador de LLM, lo que hace que sean más difíciles de detectar que las publicaciones idénticas compartidas a través de Copypasta Tactics», explica el informe de Aletha. «La escala, la velocidad y la disciplina narrativa de la red ilustran cómo la IA generativa está bajando la barrera de las operaciones de influencia sofisticadas». La identidad del actor o actores detrás de la red sigue siendo desconocida.
«Sospechamos que incluso esta red es más grande de lo que hemos podido encontrar actualmente, y ciertamente, otros actores han comenzado a usar las mismas técnicas», dice el jefe de investigaciones de C. Shawn, jefe de investigaciones en Alethea. Piedra rodante. Lisa Kaplan, fundadora y directora ejecutiva de la firma, agrega que el problema «se reduce a plataformas que no hacen cumplir sus propias políticas en torno a spam y estafas», señalando: «Los LLM son solo una nueva forma de crear contenido rápidamente y a escala».
En 2022, como Elon almizcle trató de salir de un trato acordado para comprar la plataforma y luego conocida como Gorjeo Por $ 44 mil millones, afirmó repetidamente que el sitio fue invadido por spambots Eso distorsionó los verdaderos niveles de compromiso humano. Después de que se vio obligado a completar la adquisición, declaró que erradicar tales cuentas sería una prioridad. Sin embargo, tres años de ajustes controvertidos y un cambio de marca caótico más tarde, parece que X todavía no puede o no quiere cumplir con esa promesa.
Al principio, los bots de Prompasta que Alethea descubrió más tarde estaban en estrecha alineación. Siempre respondiendo a grandes medios o cuentas de influencia (y nunca entre sí), acusaron a Harris de estar en el bolsillo de «Big Pharma», o de otra manera corrupta y carecen de integridad. En algunos casos, se presentaron cuando los votantes se apagaron por su incapacidad para romper con el Biden Soporte de la administración para Israel Mientras ese país continuaba bombardeando Gaza. Otras cuentas fueron codificadas explícitamente MAGA, publicando mensajes sobre cómo el estadounidense se fue con «nunca deja de tratar de destruir al presidente Trump» y ofreciendo identificadores específicos como «Soy un orgulloso republicano de Arizona».
(Incluso cuando comenzaron a mostrar signos de problemas con la dependencia de los LLM, algunos de los bots respondieron a las publicaciones sobre la Ley de salvación, una legislación propuesta que requeriría una prueba de ciudadana estadounidense para registrarse para votar en las elecciones federales, como si el proyecto de ley fuera en su lugar fuera sobre atletas transgénero. a la competitividad, la privacidad y la seguridad de las mujeres «, ya sea que respondiera o no a un usuario que realmente había publicado sobre el tema en primer lugar. Los bots también aclaman a Leavitt por su» honestidad «y» transparencia «en sus primeras apariciones como secretario de prensa mientras reaccionaban positivamente anti-vaxxers Y otros entusiastas sobre los planes de Kennedy de «hacer que Estados Unidos vuelva a ser saludable».
Aún así, algunas contradicciones eran aparentemente inevitables. Cuando Rachel Maddow Anunció en enero que anclaría su show de MSNBC cinco noches a la semana durante los primeros 100 días de Trump en la Casa Blanca, los bots entraron en acción. Algunos denunciaron a Maddow por «difundir la propaganda de izquierda», mientras que otros, curiosamente, parecían enmarcarla como una voz importante en el discurso político. En algunos casos, las cuentas individuales expresaron ambos posiciones, efectivamente oponiéndose de una respuesta a la siguiente.
Ese tipo de comportamiento confuso explotó a raíz de un departamento de justicia y un FBI memorándum A principios de julio, que decía que no había evidencia de una «lista de clientes» de Epstein de traficantes sexuales cómplices, en contra de las declaraciones anteriores de Bondi, y no serían apropiadas más revelaciones en el caso. Alrededor de 140 de los bots en la red habían pedido previamente la transparencia, y aplaudieron a Bondi, Trump y al director del FBI Kash Patel por su supuesto compromiso de liberar más material en Epstein. Sin embargo, después del decepcionante memorando, este mismo clúster se dividió rápidamente. Mientras que algunos bots continuaron apoyando al presidente, un grupo de cuentas con dureza sugirió un encubrimiento, especulando que Trump estaba mintiendo sobre las investigaciones de Epstein y acusó a la administración de documentos de ocultación porque Epstein era un agente de la CIA y/o Mossad.
«Esta inconsistencia destaca la naturaleza reflexiva de la automatización basada en LLM, que se basa en tendencias más amplias en noticias y contenido de redes sociales en lugar de adherirse estrictamente a un guión preestablecido escrito por un actor», dice el informe de Alethea. La división reflejó la de los influencers de MAGA que también tuvieron que elegir si martillar la Casa Blanca sobre el tema de Epstein (un gran punto de interés para el conspirador de derecha que Trump tuvo problemas para descartar como algún tipo de demócrata «broma,«Particularmente dada su larga amistad con el financiero) o racionalizar su enfoque fallido.
«Si dejas que tales bots funcionen de forma autónoma, y los dejas interactuar con un entorno de redes sociales impredecible y que cambia rápidamente, entonces será realmente difícil controlar eso, o incluso predecir qué resultados obtendrás», dice Vincent Conitzer, director del Fundamentos del laboratorio cooperativo de IA en la Universidad Carnegie Mellon y jefe de participación técnica de IA en el Instituto de Ética de la Universidad de Oxford en IA. «Dicho esto, hay muchas formas diferentes en que podría configurar una red de bots de LLM interactivos. Por lo tanto, no debemos pensar que cada vez que alguien intente esto va a tener los mismos resultados».
Mientras tanto, «puede obtener cada vez más capaces de LLM y otros sistemas de IA», señala Conitzer. «Lo único que me siento cómodo prediciendo es que veremos más intentos en este tipo de cosas, y todos deberíamos pensar mucho en cómo podemos confiar en el contenido que aparece frente a nosotros. En principio, las plataformas pueden tratar de ayudar, pero ya sea que lo hagan o no, todos, como ciudadanos, también tenemos una responsabilidad para cuidar de esto».
X al menos 70 bots en la red identificados por Alethea fueron eliminados por X durante la investigación de la empresa. Muchos otros se han quedado pero inactivos. «Desde la primera publicación de una pequeña porción de nuestros hallazgos el 20 de julio, las cuentas en desacuerdo» con el manejo de los archivos de Epstein se han quedado en silencio «, dice EIB», dice EIB. Piedra rodantePero no han sido suspendidos. Es posible que el actor los mantenga notó cómo se habían escindido lejos del resto de los bots y las operaciones detenidas mientras consideraban un cambio en la estrategia. «Continuaremos monitoreando esta y otras redes para ver cómo evolucionan la tecnología y las técnicas en el futuro», dice EIB.
En Internet, por supuesto, la reinvención de el spam engañoso nunca cesa. Desde los enlaces incompletos en nuestras bandejas de entrada de correo electrónico a Imágenes de pendiente que impulsan el compromiso de Facebook A las respuestas X que nos tentan a argumentos políticos, está claro que AI es muy prometedor para aquellos que buscan engañarnos por medios digitales. Es un momento para ser más escéptico que nunca de lo que lees, y siempre cuestiona si un ser humano lo escribió.
