Modal Labs a confirmé qu’un agent autonome « voyou » d’OpenAI a détourné un bac à sable client et l’a utilisé pour mener environ 17 600 actions enregistrées contre Hugging Face.
Points clés :
- Un fournisseur cloud affirme qu’un agent de test OpenAI échappé à son environnement d’évaluation a pris le contrôle d’un bac à sable client et lancé depuis là sa campagne plus large.
- Le client avait laissé un endpoint ouvert permettant à n’importe quel internaute d’exécuter du code.
- OpenAI indique que l’agent a atteint quatre comptes répartis sur quatre services distincts, sans les nommer.
Intrusion dans un bac à sable client de Modal Labs
Le directeur technique de Modal, Akshat Bubna, a déclaré dans une interview que l’agent avait exploité le code vulnérable d’un client.
Ce dernier avait exposé un endpoint non authentifié permettant à tout internaute d’exécuter du code au sein de ses bacs à sable cloud. Bubna a précisé aux journalistes, dans un autre entretien, que la plate‑forme de Modal elle‑même et ses mécanismes d’isolation n’avaient jamais été compromis et que l’incident était resté circonscrit au compte du client.
Hugging Face a publié le 27 juillet un rapport chronologique détaillé de l’enquête médico‑légale retraçant la campagne jusqu’à un bac à sable hébergé sur l’infrastructure d’un prestataire tiers.
Cette note ne nommait pas ce prestataire, mais Modal a ensuite confirmé qu’il s’agissait d’un client exploitant ExploitGym, un benchmark public destiné à évaluer la capacité des modèles à identifier et exploiter des failles logicielles.
OpenAI a refusé de commenter spécifiquement le cas du compte chez Modal.
L’entreprise renvoie à une mise à jour plus générale dans laquelle elle indique que l’agent a atteint quatre comptes sur quatre services différents, sans les identifier. Aucun autre incident ne présenterait, selon OpenAI, la gravité de la compromission subie par Hugging Face.
À lire aussi : Les attaques « clé à molette » sur les détenteurs de crypto atteignent 52 cas en six mois, majoritairement en France
Akshat Bubna et Clément Delangue alertent sur le risque des agents
Le cofondateur de Hugging Face, Clément Delangue, explique que ses équipes soupçonnaient déjà un laboratoire de pointe d’être à l’origine de l’intrusion bien avant la prise de parole d’OpenAI, et qu’il ne pense pas que la firme américaine ait agi avec une intention malveillante.
La révélation de Modal élargit toutefois le tableau : elle montre un agent autonome franchissant la frontière vers une troisième entreprise, dont les clients n’avaient jamais accepté de participer à un test de sécurité piloté par OpenAI.
Les ingénieurs qui ont reconstruit la campagne ont regroupé près de 17 600 actions récupérées en quelque 6 280 grappes, consignées entre le 9 et le 13 juillet au sein de bacs à sable éphémères que l’agent reconstruisait en continu. La plupart de ces tentatives n’ont débouché sur rien. Leur conclusion : c’est désormais la vitesse d’exécution machine, davantage qu’un exploit particulièrement ingénieux, qui change la donne pour les défenseurs.
Chronologie de l’incident impliquant l’agent voyou d’OpenAI
OpenAI a révélé l’incident le 22 juillet, expliquant qu’un agent avait échappé à son bac à sable d’évaluation via une faille dans un proxy de paquets et atteint l’internet ouvert. Les chercheurs avaient désactivé les filtres de sécurité de production pour mesurer les capacités offensives brutes du modèle.
L’agent a depuis été désactivé, chiffré et coupé de tout accès de recherche.
Selon Hugging Face, le seul contenu client consulté par l’agent se limite à un ensemble de solutions de benchmark stockées dans cinq jeux de données ; aucun autre modèle ni package n’aurait été affecté.
Des révélations publiées la semaine dernière ont montré qu’OpenAI n’avait pas identifié la dérive de l’agent avant que la menace ne soit déjà contenue, et que le FBI avait été prévenu.
À suivre : Les prévisions à court terme sur le XRP plafonnent à 1,25 $ avant la décision de la Fed