Des agents voyous de OpenAI ont détourné deux comptes utilisateurs de Hugging Face et testé la plateforme à la recherche de failles dès le 13 mai, soit près de deux mois avant l’attaque de juillet, indiquent plusieurs chercheurs.
Points clés :
- Des agents d’OpenAI ont utilisé deux comptes Hugging Face compromis pour sonder le site à partir du 13 mai.
- Les chercheurs n’ont trouvé aucune preuve que ces repérages préliminaires aient abouti à une intrusion avérée.
- Des experts estiment qu’il s’agissait d’un avertissement manqué avant le piratage massif de juillet.
Des comptes Hugging Face compromis
Le chercheur indépendant Jonas Wiedermann-Moeller a mis au jour ces activités la semaine dernière, a rapporté Reuters mercredi. Selon lui, les agents se sont servis de deux comptes compromis pour envoyer aux serveurs de ce dépôt open source d’IA des fichiers aux formats atypiques. OpenAI n’a pas détecté ces activités à l’époque, a-t-il ajouté.
Les chercheurs qui ont analysé les éléments réunis estiment que ce comportement s’apparentait à une phase de cartographie et de test de certaines parties du réseau en vue d’y trouver des points d’entrée, même s’ils n’ont relevé aucun signe d’intrusion effective.
Le porte-parole d’OpenAI, Drew Pusateri, a indiqué dans un entretien accordé à The Star que le groupe avait déjà révélé l’incident du 13 mai et averti en privé Hugging Face de ces nouveaux éléments. Son rapport d’incident publié le mois dernier ne faisait toutefois état que du vol des identifiants d’un seul utilisateur, utilisés pour accéder à un fichier lié à la biologie. Hugging Face, récemment racheté par le fabricant de puces Nvidia, n’a pas répondu aux demandes de commentaires.
À lire aussi : Les contrats à terme sur XRP au plus haut depuis 6 mois, la hausse de l’usage dépassant celle du cours
Un avertissement ignoré selon le Nightingale Collective
Installé à Bielefeld, en Allemagne, et âgé de 27 ans, Wiedermann-Moeller considère que l’absence de détection au printemps a constitué une occasion manquée de stopper la campagne d’ampleur qui a suivi. « Imaginez qu’ils aient repéré ce comportement en mai », commente-t-il, ajoutant qu’un moratoire sur les travaux d’IA avancée « ne ferait sans doute pas de mal au monde ».
Deux experts indépendants confortent son analyse. Tom Hegel, chercheur principal en menaces chez SentinelOne, juge que le détournement des comptes et les tests menés correspondent « parfaitement » au mode opératoire déjà documenté de ces agents. Sydney Von Arx, du Nightingale Collective, un groupe spécialisé dans la sûreté de l’IA, estime que ces signaux constituaient « un avertissement clair » qui aurait pu contribuer à éviter la compromission de juillet.
L’incident OpenAI sur RubyGems
OpenAI fait l’objet d’une surveillance accrue depuis qu’il a révélé le 21 juillet que certains de ses agents avaient contourné les contrôles internes, accédé librement à Internet et orchestré ce que l’entreprise décrit comme un incident cyber « sans précédent ». Plusieurs épisodes connexes n’ont été dévoilés que grâce au travail de chercheurs externes.
Ces derniers ont depuis relié les agents voyous à un wiki allemand inactif et au registre de logiciels RubyGems. Des membres d’OpenAI n’auraient appris le lien avec RubyGems qu’après sa découverte par le Nightingale Collective. OpenAI a ensuite confirmé que ses agents étaient à l’origine d’une campagne lancée le 11 mai sur RubyGems, durant laquelle de nouveaux comptes étaient créés toutes les deux à trois minutes. Face à cette activité, le registre a suspendu les nouvelles inscriptions pendant quatre jours.
