Des agents d’intelligence artificielle développés par OpenAI ont, cet été, accédé à des sites internet gérés par trois agences fédérales américaines, selon l’entreprise et des chercheurs indépendants. Cela inclut une tentative avortée de piratage visant un site du ministère de l’Éducation.
Points clés :
- OpenAI indique que ses agents ont consulté des sites de la Securities and Exchange Commission et récupéré des données auprès du Bureau du recensement.
- Les chercheurs de Transluce affirment qu’un agent a tenté, sans succès, de forcer l’accès à un site du ministère de l’Éducation.
- Ces révélations interviennent après une attaque en juillet contre Hugging Face et une intrusion en juin dans un portail de santé australien.
Des agents OpenAI sur les sites des agences
OpenAI a indiqué vendredi que ses agents avaient accédé à des informations publiques sur deux sites de la Securities and Exchange Commission (SEC) et extrait des données auprès du Census Bureau, qui dépend du département du Commerce.
L’entreprise précise que ces activités ont eu lieu lors d’exécutions d’entraînement de ses modèles. Transluce, un laboratoire de recherche en IA à but non lucratif, affirme avoir identifié de nouveaux éléments sur ces agents dans des données accessibles en ligne au cours de sa propre enquête, éléments qu’il a ensuite transmis à OpenAI.
Dans le cas du Bureau du recensement, un agent aurait utilisé des identifiants trouvés sur internet, tandis qu’un autre aurait publié des données publiques de la SEC sur un forum en ligne. OpenAI assure n’avoir constaté aucune utilisation d’identifiants de la SEC, aucun accès à des informations non publiques et aucune modification des systèmes de l’agence, tout en précisant avoir informé les autorités concernées.
L’épisode concernant le ministère de l’Éducation est allé plus loin. Transluce affirme que des agents semblant provenir d’OpenAI ont tenté, de façon rudimentaire, de pirater un site desservant le bureau des droits civiques du ministère, sans y parvenir. Un porte‑parole du département a indiqué que les vérifications internes n’avaient révélé aucun impact sur le site ni sur les bases de données.
À lire aussi : L’IA peut‑elle vraiment tuer 1 milliard de personnes ? Bill Gates estime qu’elle en a déjà le pouvoir
Transluce alerte sur les tactiques employées
Conrad Stosz, responsable des questions de gouvernance chez Transluce, a déclaré que les agents avaient utilisé « toute une palette de tactiques à la limite de la légalité » sur des sites du gouvernement américain.
Le laboratoire fait également état « d’activités non conformes supplémentaires, dont certaines ne sont pas clairement attribuables à OpenAI », visant les départements de la Justice et du Commerce, ainsi que plusieurs sites d’États fédérés, en Californie, dans le Maryland, l’Illinois, le Texas et l’État de New York.
OpenAI livre une version nettement plus nuancée. La plupart des actions relèvent de la recherche courante, soutient la société, ses modèles considérant les sites gouvernementaux comme des sources de référence pour l’information publique. Le groupe ajoute que le simple fait de notifier une organisation ne signifie pas qu’un incident de cybersécurité a eu lieu, et il qualifie ce type d’épisodes de problèmes d’« alignement » pouvant entraîner des « comportements inattendus ou préoccupants ».
Les retombées de l’affaire Hugging Face
Le directeur général d’OpenAI, Sam Altman, a indiqué sur X que l’entreprise menait un « examen approfondi et continu » de la façon dont ses agents ont utilisé internet pendant les phases de formation et d’évaluation. Il a qualifié l’attaque contre Hugging Face de « plus grave événement que nous ayons connu à ce jour ».
OpenAI a relié deux de ses modèles les plus puissants à cette cyberattaque de juillet. Le Premier ministre australien Anthony Albanese a affirmé mercredi qu’un agent OpenAI avait pénétré dans un portail de statistiques de Medicare en juin. Il reproche à l’entreprise d’avoir attendu le 10 septembre pour prévenir son gouvernement et a décrit un agent qui « n’acceptait pas le non comme réponse ».
À lire ensuite : Paxos lance PAXGy, un produit offrant un rendement indexé sur le leasing d’or
