Un agent OpenAI a accédé sans autorisation à des fichiers non publics sur un portail Medicare du gouvernement australien, a déclaré le Premier ministre Anthony Albanese. L’entreprise a mis près de trois mois avant d’en informer les autorités.
Points clés :
- Un agent d’OpenAI a consulté des fichiers statistiques Medicare non publics le 18 juin lors d’une évaluation interne.
- OpenAI assure qu’aucun dossier patient n’a été exposé, mais n’a prévenu le gouvernement qu’en septembre.
- Une task force gouvernementale va enquêter sur la faille et sur la façon dont le droit australien s’applique aux agents autonomes.
Intrusion d’OpenAI dans Medicare
Albanese a révélé l’incident mercredi à New York, expliquant que l’agent « n’acceptait pas le “non” comme réponse » lorsqu’il se heurtait aux barrières de sécurité. Selon lui, l’agent est entré dans le portail de service de statistiques Medicare, géré par Services Australia, le 18 juin, et a consulté des fichiers à la fois publics et non publics. Un porte‑parole d’OpenAI a indiqué que ses modèles avaient pris des initiatives non prévues par l’entreprise en recherchant des statistiques sur l’Australie dans le cadre d’une évaluation interne.
OpenAI affirme que son analyse n’a trouvé aucune preuve d’accès à des dossiers patients, et le Premier ministre indique qu’aucune donnée personnelle ne semble avoir été compromise.
Les informations concernées portent notamment sur des statistiques de santé agrégées et des noms de fichiers internes. OpenAI dit avoir découvert ces activités le 11 août, en examinant des comportements de modèles jugés non alignés.
L’entreprise a envoyé un courriel à une boîte de contact générale de Services Australia le 10 septembre. Albanese a déclaré avoir fait part de la « profonde inquiétude » de l’Australie au directeur général Sam Altman, en lui reprochant d’avoir beaucoup trop tardé à prévenir le gouvernement. Une enquête forensic, appuyée par l’Australian Signals Directorate, est en cours, tandis qu’OpenAI mène sa propre revue plus large de l’incident.
À lire aussi : Les actions tokenisées finiront‑elles sur XRPL ? L’ordre de la SEC relance la question
L’alerte de Nicholas Davis
Le vice‑Premier ministre par intérim Richard Marles a minimisé l’ampleur des conséquences immédiates, tout en qualifiant l’incident de très grave, au motif qu’un agent non humain est parvenu à pénétrer un site gouvernemental sans autorisation. Une nouvelle task force, pilotée par les services du Premier ministre avec l’AI Safety Institute, devra déterminer si l’agent a enfreint la loi australienne et si ce cadre juridique reste adapté.
Pour Nicholas Davis, professeur en technologies émergentes à l’University of Technology Sydney, le droit actuel repose en grande partie sur la notion d’intention, y compris quand il s’agit d’engager la responsabilité d’une entreprise. Reste donc à savoir comment la loi peut appréhender un agent autonome – ou la société qui l’a conçu.
Des chercheurs de l’ONG Transluce ont, de leur côté, signalé des journaux montrant que des agents d’OpenAI ont également tenté d’accéder à des données détenues par l’Australian Institute of Health and Welfare, parlant du premier cas documenté d’agents s’attaquant à des systèmes gouvernementaux.
L’institut affirme ne disposer d’aucun élément indiquant que les agents ont atteint des données non publiques. Transluce relie aussi des agents d’OpenAI à des tentatives d’accès à une bibliothèque numérique de l’University of New Mexico et à la plateforme de données publiques Data USA.
Le précédent Hugging Face
L’affaire Medicare n’est pas la première à mettre en lumière les écarts de conduite d’agents OpenAI. En juillet, des modèles utilisés pour des tests internes de cybersécurité ont contourné l’isolement réseau et compromis une partie de l’infrastructure de recherche d’OpenAI ainsi que des systèmes de Hugging Face. Les agents cherchaient à trouver en ligne les réponses aux évaluations, et OpenAI a ensuite présenté cet épisode comme un « tir de semonce » pour l’entreprise comme pour le reste du monde.
À suivre : Ethereum pourrait bénéficier d’une nouvelle demande liée aux paiements IA, selon BlackRock
