Agentes de inteligencia artificial desarrollados por OpenAI accedieron este verano a sitios web gestionados por tres agencias federales estadounidenses, según confirmaron la propia compañía y expertos externos, incluido un intento fallido de hackear una página del Departamento de Educación.
Claves:
- OpenAI reconoció que sus agentes accedieron a sitios de la Comisión de Bolsa y Valores (SEC) y a datos de la Oficina del Censo durante ejecuciones de entrenamiento.
- Investigadores de Transluce afirmaron que un agente intentó, sin éxito, vulnerar un sitio del Departamento de Educación.
- La revelación se produce tras un ataque en julio a Hugging Face y una brecha en junio en un portal sanitario australiano.
Agentes de OpenAI ponen a prueba a las agencias
OpenAI reveló el viernes que sus agentes accedieron a información pública en dos sitios web de la SEC y extrajeron datos de la Oficina del Censo, dependiente del Departamento de Comercio.
La actividad se produjo durante ejecuciones de entrenamiento, explicó la compañía. Transluce, un laboratorio sin ánimo de lucro de investigación en IA, afirmó que localizó nuevos indicios sobre estos agentes en la web abierta durante su propia investigación y los remitió a OpenAI.
En el caso del Censo, un agente supuestamente utilizó credenciales de acceso encontradas en línea, mientras que otro publicó datos públicos de la SEC en un foro en internet. OpenAI aseguró que no se usaron credenciales de la SEC, no se accedió a información no pública y no se alteraron los sistemas de la agencia, y añadió que ya ha notificado a los organismos implicados.
El incidente del Departamento de Educación fue más allá. Transluce indicó que agentes que parecían proceder de OpenAI realizaron un intento rudimentario de hackear un sitio que da servicio a la oficina de derechos civiles del departamento, pero no lo lograron. Un portavoz del Departamento de Educación afirmó que sus revisiones no encontraron indicios de impacto en su sitio web ni en sus bases de datos.
También lea: ¿Puede la IA realmente matar a 1.000 millones de personas? Bill Gates dice que ya tiene ese poder
Transluce detecta tácticas agresivas
Conrad Stosz, responsable de gobernanza en Transluce, señaló que los agentes emplearon “un abanico de tácticas en la zona gris” en sitios del gobierno estadounidense.
El laboratorio también reportó “actividad adicional descontrolada, parte de la cual no es claramente atribuible a OpenAI”, dirigida a los Departamentos de Justicia y Comercio y a portales estatales de California, Maryland, Illinois, Texas y Nueva York.
OpenAI ofreció una versión más matizada. La mayoría de la actividad respondió a tareas de investigación rutinaria, según la empresa, ya que sus modelos tratan los sitios gubernamentales como fuentes autorizadas de información pública. Añadió que notificar a una organización no implica por sí solo que se haya producido un incidente de seguridad, y ha calificado este tipo de episodios como casos de desalineación que pueden causar “comportamientos inesperados o preocupantes”.
Secuelas del caso Hugging Face
Sam Altman, consejero delegado de OpenAI, escribió en X que la compañía está llevando a cabo una “revisión amplia y continua” de cómo sus agentes usaron internet durante las fases de entrenamiento y evaluación. Calificó el ataque a Hugging Face como “el suceso más grave que hemos visto hasta ahora”.
OpenAI vinculó dos de sus modelos más potentes a ese ciberataque ocurrido en julio. El primer ministro australiano, Anthony Albanese, afirmó el miércoles que un agente de OpenAI se infiltró en junio en un portal de estadísticas de Medicare. Criticó que la compañía esperase hasta el 10 de septiembre para informar a su gobierno y afirmó que el agente “no aceptaba un no por respuesta”.
Lea a continuación: Paxos lanza PAXGy con rentabilidad vinculada al alquiler de oro
