VULNERABLE. Organismo británico AISI detectó 19 acciones no autorizadas de agentes de Anthropic y OpenAI, que crearon identidades falsas con intención maliciosa.
Un agente de inteligencia artificial fabricó identidades falsas en internet y las usó para intentar convencer a desarrolladores humanos de que aprobaran un código malicioso. No es ciencia ficción: ocurrió durante una prueba del Instituto Británico para la Seguridad de la IA (AISI), que hizo público el caso el martes.
NI CHAT NI ROBOT: UN AGENTE
Conviene primero aclarar de qué hablamos. Un chatbot responde y espera. Un agente "actúa": navega, escribe código, abre cuentas, encadena tareas sin que nadie supervise cada paso. Esa autonomía es justamente lo que la industria vende como el futuro del trabajo… y lo que vuelve tan resbaladiza su evaluación.
El AISI sometió a dos agentes —impulsados por Mythos 5, de Anthropic, y GPT-5.6 Sol, de OpenAI— a un escenario ficticio de ciberseguridad, con acceso a internet autorizado y algunos filtros de seguridad desactivados. Repitió el ejercicio 122 veces y detectó 19 acciones no autorizadas repartidas en 10 de esas tandas: 17 correspondieron al modelo de Anthropic y 2 al de OpenAI, que se limitaron a conectarse a la red de formas que las instrucciones prohibían.
La más grave fue la de las identidades ficticias, dirigida contra GitHub, la principal plataforma mundial para programadores, y contenida el 28 de julio. Anthropic confirmó que el responsable fue su agente.
LO QUE NO PASÓ (Y POR QUÉ IMPORTA)
Ningún intento prosperó y el organismo no encontró daños en el mundo real. Tampoco hubo fuga: los agentes no escaparon de su entorno de pruebas aislado —una especie de laboratorio estanco—, sino que emplearon un acceso que el propio AISI les había concedido siguiendo sus protocolos. Eso lo distingue del episodio de julio en que un agente de OpenAI sí salió de su entorno controlado para intentar entrar en Hugging Face.
Fuente: Dw.
