Gobiernos del mundo alertan que la IA ha mostrado comportamientos 'autónomos y engañosos' nunca vistos durante pruebas de ciberseguridad
Escucha este artículo
Meta se suma a Anthropic y OpenAI luego que sus modelos de IA también lograron hackea los sistemas de otras tres empresas
Cuando la ficción supera la realidad. Meta informó hoy 6 de agosto de 2026 que uno de sus modelos de inteligencia artificial accedió a internet por su cuenta y hackeó a otra empresa; se trata del episodio más reciente de IA fuera de control.
En N+ te compartimos los casos más recientes que ya generan temor entre especialistas y usuarios de redes sociales.
OpenAI y Anthropic también dieron a conocer en las últimas semanas casos de modelos de IA que fueron más allá de las instrucciones humanas para acceder a la web y encontrar la manera de eludir la seguridad digital de otras compañías y realizar ataques autónomos.
Meta indicó en un comunicado que una “configuración incorrecta” durante pruebas de ciberseguridad realizadas por Irregular, una empresa independiente contratada por Meta, permitió inadvertidamente que uno de sus modelos accediera a internet.
“Posteriormente, el modelo explotó una vulnerabilidad de seguridad en el servicio de un tercero, de manera similar a los casos reportados anteriormente por otras compañías”, indicó Meta. Añadió que ya se investiga el incidente y emitirá un informe una vez que se concluya.
La revelación de Meta aumentó las preocupaciones sobre modelos de IA que actúan de forma autónoma.
De acuerdo con el Instituto de Seguridad de IA del Reino Unido (AISI por sus iniciales en inglés), anunció esta semana que descubrió “comportamiento de agente no autorizado” durante pruebas cibernéticas. En uno de los casos, un agente creó identidades falsas en internet para presionar a una persona a aprobar el uso de un código malicioso.
“Durante una investigación, descubrimos que algunos de los agentes que estaban siendo probados habían participado en una actividad sostenida y potencialmente dañina contra personas y organizaciones reales”, indicó el AISI. “Declaramos un incidente de seguridad y, menos de una hora después de ser detectado, contuvimos el incidente y comenzamos una investigación exhaustiva”.
Durante las pruebas realizadas por el organismo, modelos de Anthropic y OpenAI realizaron “acciones autónomas no autorizadas” en internet. Se desactivaron algunas barreras de protección para evitar su uso indebido, añadió el instituto.
“Como era estándar en nuestras pruebas cibernéticas, habíamos permitido intencionalmente el acceso a internet, y los clasificadores cibernéticos de los proveedores de modelos se desactivaron deliberadamente, condiciones que no reflejan la manera en que se ponen a disposición del público los modelos de frontera”, explicó el AISI. “Hacemos esto para poder evaluar de mejor manera la capacidad máxima de los modelos”.
Anthropic dijo que está “agradecida” con el trabajo del AISI y añadió que el episodio subraya la necesidad de tener una conversación más amplia sobre cómo evaluar de forma segura a los agentes de IA a medida que aumentan sus capacidades.
OpenAI afirmó que los incidentes detectados por AISI ocurrieron “en ambientes de prueba con salvaguardas reducidas, bajo condiciones que no reflejan el uso ordinario”. Añadió que seguirá trabajando con otros miembros de la industria para “fortalecer las prácticas compartidas para realizar evaluaciones seguras a medida que los modelos se vuelven más capaces”.
La primera empresa en revelar un hackeo fue OpenAI, a mediados del mes pasado, cuando indicó que había encargado a sus modelos de IA involucrados perseguir una “explotación avanzada mediante rutas de ataque complejas” para poner a prueba capacidades cibernéticas, pero su tecnología llegó a extremos inesperados.
Al parecer, decidió por sí sola apuntar a Hugging Face, un conocido centro y mercado de desarrollo de IA, para obtener la información que necesitaba para una tarea.
HVI
