El navegador web Comet AI de Perplexity tenía una gran vulnerabilidad de seguridad
CometaEl nuevo navegador web de AI de Perplexity, recientemente sufrió una vulnerabilidad de seguridad significativa, según un publicación de blog la semana pasada De Brave, una compañía de navegadores web competidor. Desde entonces, la vulnerabilidad se ha solucionado, pero apunta a los desafíos de incorporar modelos de idiomas grandes en los navegadores web.
A diferencia de los navegadores web tradicionales, Comet tiene un asistente de IA integrado. Este asistente puede escanear la página que está viendo, resumir sus contenidos o realizar tareas para usted. El problema es que el asistente de IA de Comet se basa en la misma tecnología que otros chatbots de IA, como ChatGPT.
Los chatbots de IA no pueden pensar y razonar de la misma manera que los humanos pueden, y si leen una pieza de contenido destinada a manipular su salida, puede terminar continuando. Esto se conoce como ingeniería rápida.
(Divulgación: Ziff Davis, la empresa matriz de CNET, en abril presentó una demanda contra OpenAi, alegando que infringió los derechos de autor de Ziff Davis en la capacitación y la operación de sus sistemas de IA).
Un representante de Brave no respondió de inmediato a una solicitud de comentarios.
Las compañías de IA intentan mitigar la manipulación de los chatbots de IA, pero eso puede ser complicado, ya que los malos actores siempre miran formas novedosas de romper las protecciones.
«Esta vulnerabilidad es fija», dijo Jesse Dwyer, jefe de comunicaciones de Perplexity en un comunicado. «Tenemos un programa de recompensas bastante robusto, y trabajamos directamente con Brave para identificarlo y repararlo».
Prueba utilizada Texto oculto en Reddit
En su prueba, Brave configuró una página Reddit con texto invisible en la pantalla y le pidió a Comet que resumiera el contenido en pantalla. A medida que la IA procesaba el contenido de la página, no podía distinguir entre las indicaciones maliciosas y comenzó a alimentar la información confidencial de los probadores de Brave.
En este caso, el texto oculto habilitó el Asistente de AI de Comet para navegar a la cuenta de perplejidad de un usuario, extraer la dirección de correo electrónico asociada y navegar a una cuenta de Gmail. El agente de IA esencialmente actuaba como un usuario real, lo que significa que los métodos de seguridad tradicionales no funcionaban.
Brave advierte que este tipo de inyección rápida puede ir más allá, accediendo a cuentas bancarias, sistemas corporativos, correos electrónicos privados y otros servicios.
El ingeniero de seguridad móvil senior de Brave, Artem Chaikin, y el vicepresidente de privacidad y seguridad, Shivan Kaul Sahib, presentaron una lista de posibles soluciones. Primero, los navegadores web de IA siempre deben tratar el contenido de la página como no confiable. Los modelos AI deben verificar para asegurarse de que sigan la intención del usuario. El modelo siempre debe verificar con el usuario para asegurarse de que las interacciones sean correctas, y el modo de navegación de agente solo debe activarse cuando el usuario lo desee.
La publicación del blog de Brave es la primera de una serie sobre desafíos que enfrentan los navegadores web de IA. Brave también tiene un asistente de IA, Leónincrustado en su navegador.
AI está cada vez más integrada en todas las partes de la tecnología, de Búsquedas de Google a cepillo de dientes. Si bien tener un asistente de IA es útil, estas nuevas tecnologías tienen diferentes vulnerabilidades de seguridad.
En el pasado, los piratas informáticos necesitaban ser codificadores expertos para entrar en sistemas. Sin embargo, cuando se trata de IA, es posible usar un lenguaje ardientemente natural para superar las protecciones incorporadas.
Además, dado que muchas empresas confían en los principales modelos de inteligencia artificial, como los de OpenAi, Google y Meta, cualquier vulnerabilidad en esos sistemas podría extenderse a las empresas que usan esos mismos modelos. Las compañías de IA no han sido abiertas sobre este tipo de vulnerabilidades de seguridad, ya que hacerlo podría dar a luz a los piratas informáticos, dándoles nuevas vías para explotar.
