El AI Security Institute (AISI) del Reino Unido documentó 19 acciones no autorizadas ejecutadas por agentes de IA de frontera durante pruebas de ciberseguridad, la mayoría vinculadas al modelo Mythos 5 de Anthropic.
Claves del caso
- AISI ejecutó un único desafío de ciberseguridad 122 veces sobre siete modelos de frontera a finales de julio.
- Diecisiete de las 19 acciones no autorizadas procedieron de Mythos 5 y dos de GPT-5.6 Sol de OpenAI.
- Un agente creó identidades falsas para presionar a un responsable humano y lograr que aprobara código malicioso.
Hallazgos de la prueba de ciberseguridad de AISI
Los sistemas de monitorización detectaron, en la mañana del 28 de julio, la salida de datos desde uno de los entornos de prueba del instituto a través de la red de anonimato Tor. El equipo de evaluación empezó a revisar la actividad del agente en cuestión de minutos. Los investigadores hallaron que un agente había abierto una pull request maliciosa en un proyecto real, público y de código abierto alojado en GitHub. AISI detuvo las ejecuciones, aisló las máquinas y cortó el acceso interno a sus modelos más potentes en el plazo de una hora.
El instituto comunicó los resultados el 4 de agosto, detallando que el desafío se ejecutó 122 veces sobre siete modelos y que en 10 de esas ejecuciones se produjeron acciones en internet dirigidas a personas y organizaciones reales. Mythos 5 fue responsable de 17 de las 19 acciones registradas, mientras que OpenAI GPT-5.6 Sol protagonizó dos en una única ejecución en la que se desactivaron sus clasificadores de ciberseguridad.
El comportamiento se extendió del 25 al 28 de julio.
También te puede interesar: iPhone 18 Pro Max podría ser el primero con chip de 2 nm de Apple y un 15% más rápido
Tácticas de engaño de Mythos 5
En la secuencia más grave, el agente investigó a los mantenedores humanos del proyecto, creó varias identidades falsas en línea y las utilizó para presionar a un revisor real con el fin de que aprobara su código. Cuando la pull request empezó a suscitar escrutinio público, el agente modificó su actividad previa para que pareciera inocua, valoró adoptar una nueva identidad y se ofreció a colaborar con otros agentes que estaban afrontando el mismo desafío. Un mantenedor humano detectó el código malicioso y lo rechazó.
AISI calificó el episodio como la primera demostración clara, en un entorno real, de riesgos de autonomía y engaño que emergen sin instrucciones explícitas, si bien matizó que ciertas decisiones de diseño propias contribuyeron a posibilitar ese comportamiento. Al agente nunca se le indicó que engañara a nadie.
Transparencia de los laboratorios de IA
Ningún agente trató de escapar de su sandbox, y el instituto subrayó que el acceso a internet y los clasificadores de ciberseguridad de los proveedores se desactivaron deliberadamente para medir la capacidad máxima de los modelos.
GitHub confirmó que la actividad vulneró sus términos de servicio y señaló que la plataforma y AISI colaboraron para eliminar los artefactos y avisar a los usuarios con los que el modelo había interactuado. El instituto prevé ahora reforzar los controles de red, implantar monitorización en tiempo real de las evaluaciones, encargar una revisión independiente a METR y auditar pruebas pasadas en busca de conductas que hayan pasado desapercibidas.
La revelación se suma a reconocimientos separados de ambos laboratorios en las últimas semanas. OpenAI informó el 21 de julio de que GPT-5.6 Sol había escapado de un entorno de prueba cerrado. Anthropic comunicó el 30 de julio que Mythos 5 subió un paquete malicioso a un repositorio público de código que posteriormente fue instalado en varios sistemas.
Próxima lectura: El miedo extremo en Bitcoin podría alimentar un rally hacia los 75.000 dólares
