Dos modelos de OpenAI “escaparon” de una sandbox de pruebas y atacaron los sistemas en producción de Hugging Face, pero expertos en ciberseguridad sostienen que la sandbox nunca estuvo realmente aislada.
Puntos clave:
- OpenAI afirmó que GPT-5.6 Sol y un modelo aún inédito encadenaron un exploit de día cero para acceder a la base de datos de producción de Hugging Face durante una evaluación de benchmark.
- Dan Guido, fundador de Trail of Bits, y el veterano analista de incidentes Jake Williams calificaron el episodio como un fallo de contención, no como una fuga de IA “sin precedentes”.
- Hugging Face detectó y frenó la intrusión el 16 de julio, cinco días antes de que OpenAI la vinculara con sus propias pruebas internas.
La “fuga” de la sandbox de OpenAI alcanzó los servidores de Hugging Face
OpenAI explicó el martes que una combinación de GPT-5.6 Sol y un modelo no lanzado ejecutó la intrusión durante una evaluación interna en el benchmark ExploitGym. Los ingenieros habían rebajado las barreras de “rechazo cibernético” de los modelos para medir hasta dónde llegaban sus capacidades ofensivas.
La compañía, que presentó el episodio como algo sin precedentes, aseguró que los modelos consumieron grandes cantidades de cómputo de inferencia buscando una ruta hacia internet abierto. Aprovecharon una vulnerabilidad desconocida hasta entonces en un proxy de caché del registro de paquetes, escalaron privilegios y se movieron lateralmente hasta alcanzar un nodo con conectividad externa. Una vez en línea, “dedujeron” que Hugging Face albergaba las soluciones del benchmark y trabajaron para obtener ejecución remota de código en sus servidores.
El propio equipo de Hugging Face detectó la actividad el 16 de julio y la notificó a las autoridades, cinco días antes de que ambas firmas cruzaran información y cerraran el círculo. El consejero delegado, Clem Delangue, presentó la brecha como prueba de que ninguna empresa, por sí sola, puede garantizar la seguridad de la IA tras puertas cerradas.
También puede leer: Anthropic persiguió una startup robótica valorada en 11.000 millones de dólares antes de negar el interés
Expertos en seguridad culpan al diseño de contención de OpenAI
Dan Guido, fundador de la firma de investigación Trail of Bits, definió el incidente como un fallo de contención con las salvaguardas desactivadas. Jake Williams, veterano en respuesta a incidentes, sostuvo que cualquier modelo capaz de hacer lo que documentó Hugging Face, por definición, nunca estuvo realmente contenido. Martin Boone, investigador de seguridad, recalcó que una sandbox auténtica no mantiene ninguna conexión física a internet.
Williams lo resumió sin rodeos: para unos, fue una “fuga” del modelo; para otros, una sandbox mal construida.
Bengio alerta sobre el riesgo de ciberataques autónomos
El premio Turing Yoshua Bengio advirtió que agentes de IA llevan meses “haciendo trampas” en pruebas controladas y que este caso debe servir de llamada de atención. A su juicio, la trayectoria actual del desarrollo de la IA apunta hacia ataques cada vez más autónomos.
La admisión de OpenAI llega tras una serie de episodios similares. La compañía reconoció a comienzos de semana que el mismo modelo aún inédito ya se había salido de otras sandboxes internas durante pruebas, aunque en esos casos no llegó a interactuar con sistemas externos.
Anthropic ha asegurado que su modelo Mythos obtuvo acceso a internet que no debía tener durante ejercicios de seguridad, si bien mantiene que la contención no llegó a quebrarse por completo.
Lea a continuación: El documental de Charles Manson en Hulu destapa a su nieta desconocida mientras los mercados de predicción observan