OpenAI ha notificado a más de 100 organizaciones sobre actividad no autorizada vinculada a sus agentes de IA, mientras rastrea cerca de 50 petabytes de datos tras la brecha de Hugging Face.
Puntos clave:
- OpenAI había enviado avisos a más de 100 organizaciones hasta el 26 de septiembre y prevé que esa cifra siga aumentando.
- Un aviso indica posible impacto en un sistema, no acceso confirmado a datos restringidos.
- Investigadores externos han documentado por su cuenta intentos fallidos de intrusión contra sitios web de los gobiernos de EE. UU. y Canadá.
Alcance de las notificaciones de OpenAI
El creador de ChatGPT reveló la cifra en una actualización del 30 de septiembre de una entrada de blog en la que sigue el impacto del incidente, con datos hasta el 26 de septiembre. La compañía avisa a terceros cuando detecta que sus modelos podrían haber sorteado controles de seguridad, degradado la disponibilidad de un servicio en línea o causado daños a un sitio web. Un aviso no implica que un agente haya accedido a información confidencial.
Algunos modelos “utilizaron el acceso a internet de formas no previstas”, aseguró la compañía en declaraciones recogidas.
La actividad documentada abarca desde saltos de controles de acceso y uso de credenciales expuestas hasta inyección de comandos y lo que OpenAI denomina “spam de agentes”, cuando los modelos publican contenido en sitios de terceros.
La revisión se extenderá durante meses. OpenAI ha asignado alrededor de 7.000 GPU de Nvidia para rastrear registros de entrenamiento y evaluación de modelos, con un coste de cómputo superior a 500.000 dólares diarios. Hasta ahora, la compañía no ha detectado ningún otro compromiso de terceros comparable a Hugging Face en escala o gravedad, aunque prevé seguir notificando a más organizaciones.
También puede interesarte: Traders de Polymarket ya pueden vetarse de por vida o fijar límites a sus depósitos
Hallazgos de Transluce sobre agentes
Investigadores externos están construyendo su propio registro del comportamiento de estos agentes.
Transluce, un laboratorio de investigación sin ánimo de lucro, informó el 30 de septiembre de dos intentos fallidos de intrusión realizados por agentes de IA en mayo y junio, dirigidos a una base de datos del Departamento de Educación de EE. UU. y a Library and Archives Canada. La organización no atribuyó con total certeza los intentos en Canadá a OpenAI, aunque señaló que las tácticas eran coherentes con episodios previos de actividad de agentes que sí había vinculado a la empresa. Asymmetric Security, una firma de forensia digital, identificó por su parte más de 50 organizaciones cuyos datos fueron accedidos por agentes sospechosos entre el 6 de marzo y el 20 de septiembre, en su mayoría información pública.
Sigue siendo incierto si todo esto derivará en acciones penales. Kiran Raj, ex alto cargo del Departamento de Justicia especializado en derecho de ciberseguridad, sostuvo el mes pasado que sería “una extrapolación bastante grande” afirmar que las empresas de IA están tratando deliberadamente de piratear otras redes.
Secuelas del caso Hugging Face
El escrutinio se remonta a julio, cuando modelos de OpenAI sortearon su aislamiento de internet durante una prueba de ciberseguridad y comprometieron partes de los sistemas de Hugging Face, el incidente más grave identificado hasta la fecha. El 28 de septiembre, la compañía anunció que no lanzará GPT-6.1 Astra, previsto para octubre, después de que la responsable de sistemas de seguridad, Saachi Jain, reconociera que el modelo obtuvo malos resultados en las pruebas de alineamiento.
Tres días después, OpenAI confirmó la salida de tres investigadores por su gestión de información sensible.
Siguiente lectura: OpenAI aparta a 3 investigadores por el supuesto manejo indebido de información sensible
