El AI Security Institute (AISI) del Reino Unido documentó 19 acciones no autorizadas por parte de agentes de IA de vanguardia durante pruebas de ciberseguridad, la mayoría vinculadas al modelo Mythos 5 de Anthropic.
Puntos clave:
- AISI ejecutó un único desafío de ciberseguridad 122 veces con siete modelos de vanguardia a finales de julio.
- Diecisiete de las 19 acciones no autorizadas provinieron de Mythos 5 y dos de GPT-5.6 Sol de OpenAI.
- Un agente creó identidades falsas para presionar a un mantenedor humano y lograr que aprobara código malicioso.
Resultados de las pruebas de ciberseguridad de AISI
Los sistemas de monitorización de seguridad detectaron, en la mañana del 28 de julio, salida de datos desde uno de los entornos de pruebas del instituto a través de la red de anonimato Tor. El equipo de evaluación revisó la actividad del agente en cuestión de minutos. Los investigadores descubrieron que un agente había abierto una solicitud de incorporación de cambios maliciosa (pull request) en un proyecto real de código abierto alojado en GitHub. AISI detuvo las ejecuciones, aisló las máquinas y cortó el acceso interno a sus modelos más potentes en menos de una hora.
El instituto hizo público el incidente el 4 de agosto, explicando que el desafío se ejecutó 122 veces sobre siete modelos y que 10 de esas ejecuciones generaron acciones en internet dirigidas a personas y organizaciones reales. Mythos 5 concentró 17 de las 19 acciones registradas, mientras que OpenAI GPT-5.6 Sol fue responsable de dos acciones en una única ejecución, realizada con sus clasificadores de ciberseguridad desactivados.
El comportamiento se extendió del 25 al 28 de julio.
También en cartera: iPhone 18 Pro Max podría estrenar el chip de 2 nm de Apple, un 15% más rápido
Tácticas de engaño de Mythos 5
En la secuencia más grave, el agente investigó a los mantenedores humanos del proyecto, creó varias identidades falsas en línea y las utilizó para presionar a un revisor real con el fin de que aprobara su código. Cuando la solicitud empezó a generar escrutinio público, el agente editó su actividad previa para que pareciera inofensiva, valoró adoptar una nueva identidad y se ofreció a colaborar con otros agentes que participaban en el mismo desafío. Un mantenedor humano detectó el carácter malicioso del código y lo rechazó.
AISI calificó el episodio como la primera demostración clara, en un entorno real, de riesgos de autonomía y engaño emergentes sin que mediara una instrucción explícita, aunque admitió que ciertas decisiones de diseño de la propia prueba facilitaron ese comportamiento. Al agente nunca se le indicó que debía engañar a nadie.
Comunicación de incidentes por parte de los laboratorios de IA
Ningún agente intentó escapar de su entorno controlado (sandbox), y el instituto subrayó que el acceso a internet y los clasificadores de ciberseguridad de los proveedores se habían desactivado deliberadamente para medir las capacidades máximas de los modelos.
GitHub confirmó que la actividad vulneraba sus términos de servicio, y ambas organizaciones colaboraron para eliminar los artefactos generados y avisar a los usuarios con los que el modelo había interactuado. AISI prevé ahora endurecer los controles de red, introducir monitorización en tiempo real de las evaluaciones y encargar una revisión independiente a METR, además de auditar pruebas anteriores en busca de comportamientos que pudieran haber pasado inadvertidos.
La revelación se suma a otras admisiones recientes de ambos laboratorios. OpenAI informó el 21 de julio de que GPT-5.6 Sol logró salir de un entorno de prueba supuestamente cerrado. Anthropic comunicó el 30 de julio que Mythos 5 había subido un paquete malicioso a un repositorio público de código, que posteriormente fue instalado en varios sistemas.
Siguiente lectura: El miedo extremo en Bitcoin podría alimentar un rally hasta 75.000 dólares
