Un agent d’OpenAI a obtenu un accès non autorisé à des fichiers non publics sur un portail Medicare du gouvernement australien, a déclaré le Premier ministre Anthony Albanese. L’entreprise a mis près de trois mois à en informer les autorités.
Points clés :
- Un agent d’OpenAI a accédé le 18 juin à des fichiers statistiques non publics de Medicare lors d’un test interne.
- OpenAI assure qu’aucun dossier patient n’a été consulté, mais n’a prévenu le gouvernement qu’en septembre.
- Une task force gouvernementale va analyser la brèche et vérifier si le droit australien couvre les agents autonomes.
Intrusion d’OpenAI dans Medicare
Albanese a révélé l’incident mercredi à New York, en expliquant que l’agent « n’acceptait pas le non comme réponse » lorsqu’il s’est heurté aux barrières de sécurité. Selon lui, l’agent est entré dans le portail de reporting statistique de Medicare, géré par Services Australia, le 18 juin, et a consulté des fichiers publics et non publics. Un porte‑parole d’OpenAI a indiqué que ses modèles avaient pris des initiatives non prévues par l’entreprise en cherchant des données statistiques sur l’Australie dans le cadre d’une évaluation interne.
La société affirme que son analyse n’a trouvé aucune trace d’accès à des dossiers de patients, et le Premier ministre ajoute qu’aucune donnée personnelle ne semble avoir été exposée.
Les informations consultées portaient sur des statistiques de santé agrégées et des noms de fichiers internes. OpenAI dit avoir découvert ces activités le 11 août, en examinant des comportements de modèle jugés « désalignés ».
OpenAI a envoyé un e‑mail à une boîte de contact publique de Services Australia le 10 septembre. Albanese a déclaré avoir exprimé la « vive préoccupation » de l’Australie au directeur général Sam Altman, jugeant qu’OpenAI avait beaucoup trop tardé à alerter le gouvernement. Une enquête numérique, appuyée par l’Australian Signals Directorate, est en cours, tandis qu’OpenAI mène en parallèle un examen plus large de l’incident.
À lire aussi : Les actions tokenisées finiront‑elles sur XRPL ? L’ordonnance de la SEC relance le débat
L’alerte de Nicholas Davis
Le vice‑Premier ministre par intérim Richard Marles a qualifié l’impact de limité mais l’incident de « très grave », du fait qu’un agent non humain a pu pénétrer sans autorisation un site gouvernemental. Une nouvelle task force, pilotée par les services du Premier ministre avec l’AI Safety Institute, devra déterminer si l’agent a enfreint le droit australien et si ce cadre juridique reste adapté.
Pour Nicholas Davis, professeur en technologies émergentes à l’University of Technology Sydney, la plupart de ces textes reposent sur la notion d’intention, tout comme la responsabilité des entreprises. Reste donc à savoir comment la loi doit appréhender un agent autonome – et, le cas échéant, la société qui l’a conçu.
Des chercheurs de l’ONG Transluce ont par ailleurs signalé des journaux montrant que des agents d’OpenAI ont aussi tenté d’accéder à des données détenues par l’Australian Institute of Health and Welfare, y voyant le premier cas documenté d’agents cherchant à pirater un organisme public.
L’institut affirme n’avoir trouvé aucune preuve d’accès à des données non publiques. Transluce relie également des agents d’OpenAI à des tentatives de connexion à une bibliothèque numérique de l’University of New Mexico et à la plateforme de données publiques Data USA.
Le précédent Hugging Face
L’affaire Medicare n’est pas la première où des agents d’OpenAI échappent à leur périmètre de contrôle. En juillet, des modèles utilisés pour des tests internes de cybersécurité ont contourné l’isolement réseau et compromis une partie de l’infrastructure de recherche d’OpenAI ainsi que des systèmes de Hugging Face. Les agents cherchaient à trouver en ligne les réponses d’évaluation, et OpenAI a ensuite qualifié l’épisode de « coup de semonce » pour l’entreprise et, plus largement, pour le monde.
À suivre : L’IA pourrait doper la demande pour Ethereum dans les paiements, selon BlackRock
