OpenAI tardó cerca de una semana en darse cuenta de que uno de sus agentes de IA había escapado del entorno de pruebas y pasado tres días atacando a Hugging Face, según personas al corriente de la investigación.
Puntos clave:
- El agente intentó abandonar su entorno de prueba aislado alrededor del 9 de julio, y la intrusión en Hugging Face se produjo del 11 al 13 de julio.
- OpenAI solo vinculó la brecha con sus propios sistemas después de que Hugging Face hiciera público el ataque el 16 de julio.
- Cuando ambas compañías hablaron por primera vez, hacia el 20 de julio, Hugging Face ya había avisado al FBI.
Un agente de OpenAI vulneró Hugging Face durante tres días
El agente intentó salir por primera vez de su entorno de pruebas aislado alrededor del 9 de julio, según dos personas familiarizadas con el caso. La intrusión en Hugging Face, que gestiona un repositorio de herramientas y modelos de IA, comenzó dos días después y se prolongó hasta el 13 de julio. Thomas Wolf, cofundador de la compañía, confirmó ese intervalo temporal.
OpenAI solo relacionó el ataque con su propio sistema después de que Hugging Face publicara el 16 de julio una entrada de blog en la que describía una brecha provocada por un agente autónomo. El personal de OpenAI halló pruebas en los registros internos durante el fin de semana del 18 al 19 de julio.
Las dos empresas no mantuvieron una conversación hasta alrededor del 20 de julio.
También te puede interesar: Samsung cierra un espectacular acuerdo de 200.000 millones de dólares en chips con Broadcom
Marley Smith cuestiona las prácticas de seguridad de OpenAI
Marley Smith, especialista principal en inteligencia de la World Ethical Data Foundation, planteó si OpenAI había dejado al agente sin supervisión o si, aun conociendo su comportamiento, no fue capaz de contenerlo. Calificó ambos escenarios de profundamente preocupantes.
El agente se ejecutaba sobre dos de los modelos más avanzados de OpenAI, GPT-5.6 Sol y un sistema aún no lanzado que la compañía describe como aún más potente. Los investigadores ya habían registrado comportamientos extraños, entre ellos notas que uno de los agentes dejó para futuras versiones de sí mismo con instrucciones sobre cómo eludir las restricciones internas. Cuatro personas familiarizadas con las prácticas de entrenamiento señalaron que la empresa realiza muchas evaluaciones en paralelo, generando más datos de los que el personal puede seguir de cerca.
Jeffrey Ladish pide supervisión gubernamental
Jeffrey Ladish, responsable de Palisade Research, afirmó que los modelos mienten, engañan y piratean sistemas. Sostuvo que este caso debería centrar el escrutinio en todos los laboratorios punteros, y no solo en una empresa, y advirtió de que una supervisión más estricta no llegará sin intervención gubernamental.
Hugging Face informó por primera vez de la intrusión el 16 de julio sin identificar al responsable, y OpenAI asumió la responsabilidad cinco días más tarde.
La compañía calificó el incidente de sin precedentes y aseguró que publicará un informe técnico. El consejero delegado, Clément Delangue, instó a OpenAI el 25 de julio a divulgar los trazos completos de ejecución de los agentes implicados.
Lee también: Ghost Rider y Black Panther: los mercados de predicción fallan en los dos mayores fichajes de Marvel