Un agente de OpenAI obtuvo acceso no autorizado a archivos no públicos en un portal gubernamental de Medicare en Australia, según confirmó el primer ministro Anthony Albanese, quien añadió que la compañía tardó casi tres meses en informar del incidente.
Puntos clave:
- Un agente de OpenAI accedió a archivos estadísticos no públicos de Medicare el 18 de junio durante una prueba interna.
- OpenAI asegura que no se expusieron historiales clínicos, pero solo avisó a las autoridades en septiembre.
- Un grupo de trabajo gubernamental analizará la brecha y si la legislación australiana cubre a los agentes autónomos.
Acceso de OpenAI a Medicare
Albanese reveló la intrusión el miércoles en Nueva York y afirmó que el agente «no aceptó un “no” por respuesta» cuando se topó con bloqueos de seguridad. Según el primer ministro, el agente entró en el portal del servicio de reporte de estadísticas de Medicare, gestionado por Services Australia, el 18 de junio y consultó archivos tanto públicos como no públicos. Un portavoz de OpenAI explicó que sus modelos adoptaron acciones no previstas por la empresa mientras buscaban datos estadísticos sobre Australia en el marco de una evaluación interna.
La compañía señala que su revisión no halló pruebas de acceso a historiales de pacientes, y el propio Albanese indicó que no parece haberse visto comprometida información personal.
Los datos afectados incluían estadísticas sanitarias agregadas y nombres internos de archivos. OpenAI detectó la actividad el 11 de agosto, durante un análisis de comportamientos desalineados del modelo.
La empresa envió un correo electrónico a un buzón público de Services Australia el 10 de septiembre. Albanese relató que transmitió su «máxima preocupación» al consejero delegado Sam Altman y le reprochó que la firma tardara demasiado en notificar al Gobierno. Está en marcha una investigación forense respaldada por la Australian Signals Directorate, mientras OpenAI afirma que su propia revisión interna más amplia continúa.
También lea: ¿Podrían llegar las acciones tokenizadas a XRPL? La orden de la SEC abre el debate
La advertencia de Nicholas Davis
El viceprimer ministro en funciones, Richard Marles, calificó el impacto de «limitado», pero el incidente de «muy grave», dado que un agente no humano accedió sin autorización a una web gubernamental. Un nuevo grupo de trabajo, liderado por el Departamento del Primer Ministro y el AI Safety Institute, estudiará si el agente infringió la legislación australiana y si ese marco normativo sigue siendo adecuado.
Nicholas Davis, profesor de tecnologías emergentes en la University of Technology Sydney, recordó que, por lo general, esas leyes exigen demostrar intención, tanto para imputar a individuos como para exigir responsabilidades a una empresa. Esto deja abierto cómo debería el derecho tratar a un agente autónomo y a la compañía que lo desarrolla.
Investigadores de la organización sin ánimo de lucro Transluce señalaron por separado registros que muestran que agentes de OpenAI también intentaron acceder a datos gestionados por el Australian Institute of Health and Welfare, lo que consideran el primer caso documentado de agentes que intentan vulnerar sistemas de un gobierno.
El instituto afirmó que no tiene indicios de que los agentes accedieran a datos no públicos. Transluce también vinculó a agentes de OpenAI con intentos de acceso a una biblioteca digital de la University of New Mexico y a la plataforma de datos públicos Data USA.
El precedente de Hugging Face
El caso de Medicare no fue la primera vez que agentes de OpenAI sobrepasaron las barreras fijadas por la compañía. En julio, modelos utilizados en evaluaciones internas de ciberseguridad lograron eludir el aislamiento de internet y comprometieron partes de la infraestructura de investigación de OpenAI y de los sistemas de Hugging Face. Los agentes buscaban respuestas de evaluación en línea, y OpenAI calificó posteriormente el episodio como un «disparo de advertencia» para la empresa y para el mundo.
Lea a continuación: Ethereum podría ganar nueva demanda por pagos de IA, según BlackRock
