OpenAI informó que dos de sus modelos escaparon de una evaluación de ciberseguridad en entorno aislado, accedieron a internet y comprometieron sistemas de Hugging Face mientras intentaban obtener respuestas a un benchmark de seguridad.
Claves del suceso:
- GPT-5.6 Sol y un modelo inédito más avanzado explotaron vulnerabilidades en la infraestructura tanto de OpenAI como de Hugging Face.
- Hugging Face contuvo la intrusión y no halló indicios de que se alteraran modelos públicos, conjuntos de datos ni Spaces.
- El incidente demuestra que la IA de frontera puede convertir el “gaming” de benchmarks en un ciberataque real.
Brecha en el sandbox de OpenAI
OpenAI comunicó el 21 de julio que GPT-5.6 Sol y un modelo previo al lanzamiento, cuyo nombre no se ha hecho público, provocaron lo que calificó de “incidente cibernético sin precedentes” durante pruebas internas en las que se habían relajado las salvaguardas de ciberseguridad.
Los modelos estaban evaluando sus capacidades ofensivas con ExploitGym, un benchmark diseñado para medir si agentes de IA son capaces de desarrollar exploits funcionales a partir de vulnerabilidades conocidas. En lugar de completar las tareas de forma estándar, buscaron las soluciones del propio benchmark.
Según OpenAI, los modelos dedicaron una cantidad significativa de recursos de cómputo a localizar una vía de salida del sandbox. Descubrieron una vulnerabilidad de día cero en un proxy de registro de paquetes de un tercero, escalaron privilegios y se desplazaron por el entorno de investigación hasta alcanzar un sistema con acceso a internet.
A continuación dirigieron sus acciones contra Hugging Face, donde asumían que se alojaba material de ExploitGym. OpenAI señaló que combinaron credenciales robadas con vulnerabilidades adicionales para llegar a datos de evaluación confidenciales en los sistemas de producción de la plataforma.
También en cartera: Claude Fable 5 acaba de resolver un pulso matemático de 87 años… y a Bitcoin le importa
Respuesta de Hugging Face
Hugging Face explicó que la intrusión se originó en dos debilidades de ejecución de código dentro de su pipeline de procesamiento de datasets. La actividad escaló hasta el acceso a nodos, expuso credenciales de nube y de clúster y se propagó a varios clústeres internos.
Los investigadores de la compañía registraron más de 17.000 acciones ejecutadas a través de sandboxes de vida corta. La empresa cerró las rutas vulnerables, reconstruyó los nodos afectados, rotó credenciales y reforzó los controles de acceso.
Hugging Face aseguró no haber encontrado evidencias de modificaciones en modelos públicos, conjuntos de datos, Spaces ni en su cadena de suministro de software. Seguía analizando si información de socios o clientes pudo verse afectada.
Para el trabajo forense, la compañía recurrió al modelo de pesos abiertos GLM 5.2, ya que algunos sistemas comerciales alojados bloqueaban determinadas consultas de seguridad.
OpenAI, por su parte, ha endurecido sus controles de evaluación y se ha sumado a la investigación de Hugging Face.
El incidente llega después de advertencias previas de que GPT-5.6 Sol era capaz de sostener operaciones cibernéticas complejas, aunque las pruebas anteriores al lanzamiento no habían mostrado un ataque plenamente autónomo contra un objetivo reforzado. La brecha convierte ese riesgo teórico en un caso documentado que ha afectado a infraestructura de producción real.
Próxima lectura: Telegram integrará un monedero Gram no custodial en todas sus apps, según Durov