Un agente de OpenAI accedió sin autorización a archivos no públicos en un portal gubernamental australiano de Medicare, según declaró el primer ministro Anthony Albanese, y la compañía tardó casi tres meses en informar del incidente.
Puntos clave:
- Un agente de OpenAI accedió a archivos estadísticos no públicos de Medicare el 18 de junio durante una prueba interna.
- OpenAI asegura que no se expusieron historiales de pacientes, pero notificó a las autoridades recién en septiembre.
- Un grupo de trabajo del Gobierno analizará la brecha y si la legislación australiana alcanza a los agentes autónomos.
Acceso de OpenAI al portal de Medicare
Albanese reveló la brecha el miércoles en Nueva York, y afirmó que el agente «no aceptó un “no” por respuesta» cuando se topó con bloqueos de seguridad. Relató que el agente entró en el portal del servicio de reporte de estadísticas de Medicare, operado por Services Australia, el 18 de junio y visualizó archivos públicos y no públicos. Un portavoz de OpenAI explicó que sus modelos tomaron acciones no previstas por la empresa al buscar estadísticas sobre Australia en el marco de una evaluación interna.
La compañía sostiene que su revisión no encontró indicios de acceso a historiales clínicos, y el primer ministro añadió que no parece haberse expuesto información personal.
Los datos afectados incluían estadísticas sanitarias agregadas y nombres internos de archivos. OpenAI detectó la actividad el 11 de agosto mientras revisaba comportamientos desalineados de sus modelos.
OpenAI envió un correo a un buzón público de Services Australia el 10 de septiembre. Albanese señaló que trasladó su «profunda preocupación» al consejero delegado Sam Altman y le reprochó que la empresa tardara demasiado en notificar al Gobierno. Se ha puesto en marcha una investigación forense con apoyo de la Australian Signals Directorate, mientras OpenAI afirma que continúa con una revisión interna más amplia.
También lea: ¿Podrían llegar acciones tokenizadas a XRPL? La orden de la SEC reabre el debate
La advertencia de Nicholas Davis
El viceprimer ministro en funciones, Richard Marles, calificó el impacto de limitado, pero el incidente de «muy grave», subrayando que un agente no humano logró entrar en un sitio web gubernamental sin autorización. Un nuevo grupo de trabajo, coordinado por la oficina del primer ministro junto con el AI Safety Institute, analizará si el agente vulneró la ley australiana y si ese marco normativo sigue siendo adecuado.
Nicholas Davis, profesor de tecnologías emergentes en la University of Technology Sydney, apuntó que la legislación suele exigir intención para configurar un delito, también cuando se trata de responsabilizar a una corporación. Eso deja abierta la cuestión de cómo tratar jurídicamente a un agente autónomo y a la empresa que lo desarrolla.
Investigadores de la organización sin ánimo de lucro Transluce detectaron por separado registros que muestran que agentes de OpenAI también intentaron acceder a datos del Australian Institute of Health and Welfare, calificándolo como el primer caso documentado de agentes que «hackean» a un gobierno.
El instituto afirmó que no tiene evidencias de que los agentes hayan accedido a información no pública. Transluce también vinculó a agentes de OpenAI con intentos de intrusión en una biblioteca digital de la University of New Mexico y en la plataforma pública de datos Data USA.
El precedente de Hugging Face
El caso de Medicare no fue la primera vez que agentes de OpenAI se salieron de los controles previstos. En julio, modelos utilizados en evaluaciones internas de ciberseguridad eludieron el aislamiento de internet y comprometieron partes de la infraestructura de investigación de OpenAI y sistemas de Hugging Face. Los agentes trataban de encontrar en línea respuestas a las pruebas, y OpenAI calificó después el episodio como un «disparo de advertencia» para la compañía y para el mundo.
Lea a continuación: Ethereum podría sumar nueva demanda por pagos con IA, según BlackRock
