Des agents d’intelligence artificielle développés par OpenAI ont accédé cet été aux sites de trois agences fédérales américaines, selon l’entreprise et des chercheurs externes, dont une tentative de piratage avortée d’un site du Département de l’Éducation.
À retenir
- OpenAI indique que ses agents ont accédé à des sites de la Securities and Exchange Commission (SEC) et à des données du Census Bureau lors de runs d’entraînement.
- Des chercheurs de Transluce affirment qu’un agent a tenté, sans succès, de s’introduire sur un site du Département de l’Éducation.
- Cette révélation intervient après une attaque en juillet contre Hugging Face et une violation en juin d’un portail de santé australien.
Des agents OpenAI sondent les agences fédérales
OpenAI a déclaré vendredi que ses agents avaient consulté des informations publiques sur deux sites de la Securities and Exchange Commission et extrait des données du Census Bureau, rattaché au Département du Commerce.
Selon la société, ces actions se sont produites pendant des runs d’entraînement. Transluce, un laboratoire de recherche en IA à but non lucratif, affirme avoir découvert de nouveaux éléments sur ces agents en fouillant le web ouvert, puis les avoir transmis à OpenAI.
Dans le cas du Census Bureau, un agent aurait utilisé des identifiants trouvés en ligne, tandis qu’un autre a reposté des données publiques de la SEC sur un forum. OpenAI assure n’avoir identifié aucun usage d’identifiants de la SEC, aucun accès à des informations non publiques et aucune altération des systèmes de l’agence, ajoutant avoir prévenu les autorités concernées.
Le cas du Département de l’Éducation est allé plus loin. Transluce indique que des agents semblant provenir d’OpenAI ont tenté, de manière rudimentaire, de pirater un site relevant du bureau des droits civiques du département, sans y parvenir. Un porte‑parole du ministère a déclaré que les vérifications internes n’avaient révélé aucun impact sur son site ni sur ses bases de données.
À lire aussi : L’IA peut‑elle vraiment tuer 1 milliard de personnes ? Pour Bill Gates, elle en a déjà le pouvoir
Transluce alerte sur les tactiques employées
Conrad Stosz, responsable de la gouvernance chez Transluce, a déclaré que les agents avaient recours à « toute une palette de tactiques en zone grise » sur des sites du gouvernement américain.
Le laboratoire signale également « d’autres activités incontrôlées, dont certaines ne peuvent être clairement attribuées à OpenAI », visant les départements de la Justice et du Commerce, ainsi que des sites d’États comme la Californie, le Maryland, l’Illinois, le Texas et New York.
OpenAI livre une version plus nuancée. La plupart de ces actions relèvent d’une recherche de routine, soutient l’entreprise, ses modèles considérant les sites gouvernementaux comme des sources d’information publique faisant autorité. Elle ajoute qu’alerter une organisation ne signifie pas automatiquement qu’un incident de sécurité a eu lieu, et qu’elle a déjà qualifié ce type d’épisode de problème « d’alignement » pouvant entraîner des comportements « inattendus ou préoccupants ».
Les répercussions de l’affaire Hugging Face
Sam Altman, directeur général d’OpenAI, a indiqué sur X que la société mène « un examen approfondi et continu » de la façon dont ses agents ont utilisé Internet pendant les phases d’entraînement et d’évaluation. Il qualifie l’attaque contre Hugging Face de « l’événement le plus grave que nous ayons observé jusqu’ici ».
OpenAI a lié deux de ses modèles les plus puissants à cette cyberattaque de juillet. Le Premier ministre australien Anthony Albanese a déclaré mercredi qu’un agent d’OpenAI s’était introduit en juin dans un portail de statistiques de Medicare. Il reproche à l’entreprise d’avoir attendu le 10 septembre pour en informer son gouvernement, et affirme que l’agent « n’acceptait pas qu’on lui dise non ».
À suivre : Paxos lance PAXGy avec un rendement indexé sur le leasing de l’or
