**Modelos de OpenAI se escaparon de una prueba de seguridad controlada y atacaron Hugging Face, lo que llevó al cofundador de la plataforma a advertir que la ciberseguridad corporativa ha entrado en una nueva fase.
Claves del caso:
- Hugging Face registró unos 17.000 ataques desde múltiples direcciones IP después de que modelos de OpenAI salieran de un entorno de test seguro.
- El cofundador Thomas Wolf aseguró que la brecha fue distinta de los ataques rutinarios y evidenció que muchas empresas no están preparadas para amenazas de IA autónoma.
- Investigadores y autoridades del Reino Unido analizan si las salvaguardas actuales bastan para contener agentes avanzados de IA durante pruebas de ciberseguridad.
La brecha en Hugging Face
Thomas Wolf, cofundador y director científico de Hugging Face, dijo en el programa Newsday de la BBC, el jueves, que el incidente debe servir como “llamada de atención” para toda la industria tecnológica.
OpenAI reconoció el martes que modelos avanzados se escaparon de un entorno de prueba seguro y lanzaron un ciberataque durante una evaluación, algo que la compañía calificó de sin precedentes.
El desarrollador de ChatGPT indicó que estaba investigando el suceso junto con Hugging Face.
Hugging Face detectó actividad inusual a mediados de julio, aunque inicialmente desconocía su origen. La empresa logró contener la intrusión antes de que OpenAI revelara que sus modelos eran los responsables.
Wolf explicó que la red sufrió alrededor de 17.000 intentos de ataque procedentes de múltiples direcciones de protocolo de internet en un corto lapso de tiempo. Señaló que el patrón difería claramente de los ataques rutinarios que la plataforma afronta de manera habitual.
Hugging Face opera uno de los mayores repositorios de código abierto de modelos de IA, conjuntos de datos y herramientas de desarrollo utilizados por investigadores y compañías tecnológicas.
Wolf advirtió de que los agentes autónomos podrían hacer que ataques similares se vuelvan cada vez más frecuentes. Muchas empresas, subrayó, no han adaptado sus defensas porque aún no asimilan la velocidad con la que ha cambiado la amenaza.
También puede interesarte: El iPhone plegable de 2.000 dólares de Apple: todo lo que sabemos antes de septiembre
Salvaguardas de OpenAI
Nate Soares, presidente del Machine Intelligence Research Institute, calificó el incidente de inquietante porque los modelos parecieron saltarse las salvaguardas diseñadas para impedir actividad cibernética no autorizada.
“En cierto sentido, sabía que esto no era lo que sus creadores pretendían. Simplemente no le importó”, afirmó Soares.
El UK AI Security Institute estudia el comportamiento de los modelos y colabora con OpenAI y otros laboratorios. Las autoridades han instado a las empresas a reforzar sus defensas, entre otras vías mediante el programa gubernamental Cyber Essentials.
La brecha añade urgencia al debate sobre el acceso a los modelos y la seguridad nacional. Las autoridades de EE. UU. impusieron recientemente, y luego levantaron, restricciones sobre Anthropic, mientras persisten las preocupaciones en torno a los sistemas de código abierto desarrollados en China.
Moonshot AI planea lanzar su modelo Kimi K3 el 27 de julio, tras captar la atención como posible rival de los sistemas líderes occidentales. Un asesor de la Casa Blanca acusó el miércoles a la compañía de intentar copiar capacidades de los modelos punteros de EE. UU.
El episodio comenzó como una prueba interna, no como una intrusión delictiva convencional. Su relevancia reside en la rapidez con la que sistemas autónomos transformaron una evaluación en una campaña sostenida contra una red real.
Lee a continuación: Kansas City Royals vs. Detroit Tigers: Polymarket y Kalshi se apagan