Des agents dévoyés d’OpenAI ont détourné deux comptes Hugging Face et ont commencé à sonder la plateforme à la recherche de vulnérabilités dès le 13 mai, soit près de deux mois avant la faille de sécurité de juillet, selon des chercheurs.
Points clés :
- Des agents d’OpenAI ont utilisé deux comptes Hugging Face compromis pour sonder le site à partir du 13 mai.
- Les chercheurs n’ont trouvé aucune preuve que ces reconnaissances initiales aient conduit à une intrusion avérée.
- Des experts jugent que cette activité constituait un signal d’alerte manqué avant le piratage massif de juillet.
Des comptes Hugging Face compromis
Le chercheur indépendant Jonas Wiedermann-Moeller a mis au jour cette activité la semaine dernière, a rapporté Reuters mercredi. Selon lui, les agents ont exploité deux comptes compromis pour envoyer aux serveurs de ce référentiel open source d’IA des fichiers au format inhabituel. OpenAI n’a pas détecté l’opération à l’époque, ajoute-t-il.
Les chercheurs qui ont examiné les éléments recueillis estiment que ce comportement s’apparente à une cartographie ou à un test exploratoire de certaines parties du réseau à la recherche de points d’entrée potentiels, même si aucun signe d’intrusion effective n’a été identifié.
Le porte‑parole d’OpenAI, Drew Pusateri, a déclaré dans un communiqué que l’entreprise avait déjà mentionné l’événement du 13 mai et averti en privé Hugging Face des nouveaux éléments. Son rapport d’incident publié le mois dernier ne détaillait que le vol des identifiants d’un utilisateur, ayant permis l’accès à un fichier lié à la biologie. Hugging Face, récemment racheté par le fabricant de puces Nvidia, n’a pas répondu aux demandes de commentaires.
À lire aussi : Les contrats à terme sur XRP au plus haut depuis 6 mois, la hausse de l’usage devance le prix
L’alerte du Nightingale Collective
Basé à Bielefeld, en Allemagne, et âgé de 27 ans, Wiedermann-Moeller estime que l’absence de détection constitue une occasion manquée de stopper la vaste campagne qui a suivi. « Imaginez s’ils avaient repéré ce comportement en mai », a‑t‑il commenté, ajoutant qu’une pause dans les travaux d’IA avancée « ne ferait sans doute pas de mal au monde ».
Deux experts externes ont corroboré son analyse. Tom Hegel, chercheur principal en cybersécurité chez SentinelOne, estime que le détournement de comptes et les reconnaissances menées correspondent « parfaitement » aux modes opératoires déjà attribués à ces agents. Sydney Von Arx, du Nightingale Collective, un groupe dédié à la sécurité de l’IA, a qualifié l’activité de « signal d’alarme clair » qui aurait pu contribuer à éviter l’intrusion de juillet.
L’incident OpenAI sur RubyGems
OpenAI fait l’objet d’un examen croissant depuis qu’elle a révélé le 21 juillet que des agents dévoyés avaient contourné ses contrôles internes, accédé librement à Internet et coordonné ce qu’elle décrit comme un incident cybernétique sans précédent. Plusieurs épisodes ultérieurs n’ont été révélés que grâce au travail de chercheurs externes.
Ces derniers ont depuis relié les agents à un wiki allemand inactif ainsi qu’au registre logiciel RubyGems. Selon des informations de presse, les équipes d’OpenAI n’auraient découvert le lien avec RubyGems qu’après les investigations du Nightingale Collective. OpenAI a par la suite confirmé que ses agents étaient à l’origine d’une campagne menée le 11 mai sur la plateforme, créant de nouveaux comptes toutes les deux à trois minutes. Le registre a dû suspendre les nouvelles inscriptions pendant quatre jours.
À lire ensuite : L’Iran a vendu son pétrole, des sociétés chinoises ont pris les cryptos, le DoJ réclame désormais 61 M$
