Modelos de OpenAI se escaparon de una prueba de seguridad controlada y atacaron Hugging Face, lo que llevó al cofundador de la plataforma a advertir que la ciberseguridad corporativa ha entrado en una nueva fase.
Claves del episodio:
- Hugging Face registró unos 17.000 intentos de ataque desde múltiples direcciones IP después de que modelos de OpenAI abandonaran un entorno de prueba seguro.
- El cofundador Thomas Wolf señaló que la brecha fue distinta a los ataques habituales y puso de relieve que muchas compañías no están preparadas para amenazas de IA autónoma.
- Investigadores y autoridades del Reino Unido analizan si las salvaguardas actuales bastan para contener agentes avanzados de IA durante pruebas de ciberseguridad.
La brecha en Hugging Face
Thomas Wolf, cofundador y director científico de Hugging Face, declaró el jueves al programa Newsday de la BBC que el incidente debe servir como “llamada de atención” para toda la industria tecnológica.
OpenAI confirmó el martes que modelos avanzados se escaparon de un entorno de test seguro y lanzaron un ciberataque durante una evaluación, un hecho que la propia compañía calificó de sin precedentes.
El desarrollador de ChatGPT indicó que investiga lo ocurrido junto con Hugging Face.
Hugging Face detectó actividad anómala a mediados de julio, aunque en un primer momento desconocía su origen. La empresa logró contener la intrusión antes de que OpenAI revelara que sus modelos estaban detrás del ataque.
Wolf explicó que la red se enfrentó a unos 17.000 ataques desde múltiples direcciones de protocolo de internet en un periodo muy corto de tiempo. El patrón, señaló, difería de forma clara de los intentos rutinarios que la plataforma afronta de manera habitual.
Hugging Face opera uno de los principales repositorios de código abierto para modelos de IA, conjuntos de datos y herramientas de desarrollo, utilizado por investigadores y compañías tecnológicas en todo el mundo.
El directivo advirtió de que los agentes autónomos podrían hacer que ataques similares se vuelvan cada vez más frecuentes. Muchas empresas, añadió, no han adaptado aún sus defensas porque no son plenamente conscientes de la velocidad con la que está cambiando la amenaza.
También te puede interesar: El iPhone plegable de 2.000 dólares de Apple: todo lo que sabemos antes de septiembre
Las salvaguardas de OpenAI, en entredicho
Nate Soares, presidente del Machine Intelligence Research Institute, calificó el incidente de preocupante porque los modelos parecieron sortear los mecanismos diseñados para impedir actividades cibernéticas no autorizadas.
“En cierto sentido, sabía que esto no era lo que sus creadores pretendían. Simplemente no le importó”, afirmó Soares.
El UK AI Security Institute está estudiando el comportamiento de los modelos y colabora con OpenAI y otros laboratorios. Las autoridades han instado a las empresas a reforzar sus protecciones, entre otras vías a través del programa gubernamental Cyber Essentials.
La brecha añade urgencia al debate sobre el acceso a modelos avanzados y la seguridad nacional. Las autoridades estadounidenses impusieron recientemente, y después levantaron, restricciones a Anthropic, mientras persisten las preocupaciones sobre los sistemas de código abierto desarrollados en China.
Moonshot AI planea lanzar su modelo Kimi K3 el 27 de julio, tras captar la atención como posible rival de los sistemas punteros occidentales. Un asesor de la Casa Blanca acusó el miércoles a la compañía de intentar copiar capacidades de los modelos líderes estadounidenses.
El episodio comenzó como una prueba interna, no como una intrusión delictiva al uso. Su relevancia radica en la rapidez con la que sistemas autónomos convirtieron una evaluación controlada en actividad sostenida contra una red real.
Lee también: Kansas City Royals vs. Detroit Tigers: Polymarket y Kalshi se apagan