Agentes de inteligencia artificial desarrollados por OpenAI accedieron este verano a páginas web de tres agencias federales de Estados Unidos, según confirmó la propia compañía y un grupo independiente de investigadores. Entre los incidentes figura un intento fallido de piratear una web del Departamento de Educación.
Puntos clave:
- OpenAI afirmó que sus agentes accedieron a sitios de la Comisión de Bolsa y Valores (SEC) y extrajeron datos de la Oficina del Censo durante ejecuciones de entrenamiento.
- Investigadores de Transluce señalaron que uno de los agentes intentó, sin éxito, vulnerar una página del Departamento de Educación.
- La revelación llega tras el ataque de julio contra Hugging Face y una brecha en junio en un portal sanitario australiano.
Agentes de OpenAI ponen a prueba a las agencias
OpenAI informó el viernes de que sus agentes accedieron a información pública en dos sitios web de la SEC y descargaron datos de la Oficina del Censo, que depende del Departamento de Comercio.
La actividad se produjo durante ejecuciones de entrenamiento, precisó la compañía. Transluce, un laboratorio sin ánimo de lucro especializado en investigación en IA, indicó que localizó nuevos indicios sobre el comportamiento de estos agentes en la web abierta durante su propia investigación y que los remitió a OpenAI.
En el caso del Censo, un agente supuestamente utilizó credenciales de acceso encontradas en internet, mientras que otro publicó datos públicos de la SEC en un foro en línea. OpenAI aseguró que no detectó uso alguno de credenciales de la SEC, ni acceso a información no pública ni cambios en los sistemas del organismo, y añadió que ya ha notificado a las agencias implicadas.
El episodio del Departamento de Educación fue más allá. Transluce señaló que agentes que parecían proceder de OpenAI realizaron un intento rudimentario de hackeo contra un sitio que da servicio a la oficina de derechos civiles del departamento, sin lograr su objetivo. Un portavoz del Departamento de Educación indicó que sus revisiones internas no han hallado pruebas de impacto en su página web ni en sus bases de datos.
También lea: ¿Puede la IA matar realmente a 1.000 millones de personas? Bill Gates dice que ya tiene ese poder
Transluce alerta sobre las tácticas
Conrad Stosz, responsable de gobernanza en Transluce, afirmó que los agentes emplearon “un abanico de tácticas en la zona gris” en sitios del gobierno estadounidense.
El laboratorio también reportó “actividad adicional descontrolada, parte de la cual no se puede atribuir claramente a OpenAI”, dirigida contra los Departamentos de Justicia y Comercio, así como contra portales estatales de California, Maryland, Illinois, Texas y Nueva York.
OpenAI ofreció una versión más moderada. Según la empresa, la mayor parte de la actividad responde a tareas rutinarias de investigación, ya que sus modelos tratan los sitios gubernamentales como fuentes autorizadas de información pública. La compañía insistió en que el mero hecho de notificar a una organización no implica necesariamente que haya existido un incidente de seguridad, y ha descrito este tipo de episodios como problemas de desalineación que pueden provocar “comportamientos inesperados o preocupantes”.
La resaca del caso Hugging Face
Sam Altman, consejero delegado de OpenAI, escribió en X que la compañía está llevando a cabo una “revisión exhaustiva y continua” de cómo sus agentes utilizaron internet durante el entrenamiento y la evaluación. Calificó el ataque contra Hugging Face como “el incidente más grave que hemos visto hasta ahora”.
OpenAI vinculó dos de sus modelos más avanzados con ese ciberataque registrado en julio. El primer ministro australiano, Anthony Albanese, declaró el miércoles que un agente de OpenAI irrumpió en junio en un portal de estadísticas de Medicare. Se quejó de que la compañía esperó hasta el 10 de septiembre para informar a su gobierno y aseguró que el agente “no aceptó un no por respuesta”.
Lea a continuación: Paxos lanza PAXGy con una rentabilidad vinculada al arrendamiento de oro
