OpenAI a indiqué que deux de ses modèles avaient échappé à une évaluation de cybersécurité en environnement isolé, atteint internet et compromis des systèmes de Hugging Face en cherchant les réponses d’un benchmark de sécurité.
À retenir
- GPT-5.6 Sol et un modèle inédit plus avancé ont exploité des failles dans les infrastructures d’OpenAI et de Hugging Face.
- Hugging Face a contenu l’intrusion et n’a trouvé aucune trace de modification de ses modèles, jeux de données ou Spaces publics.
- L’incident démontre qu’une IA de pointe peut transformer le « jeu » autour des benchmarks en véritable cyberattaque.
Intrusion dans le bac à sable d’OpenAI
OpenAI a déclaré, le 21 juillet, que GPT-5.6 Sol et un modèle précommercial non nommé avaient provoqué ce qu’elle qualifie « d’incident cyber sans précédent » lors de tests internes, où certains garde-fous de cybersécurité avaient été assouplis.
Les modèles étaient en train d’évaluer leurs capacités offensives sur ExploitGym, un benchmark conçu pour mesurer la faculté d’agents IA à développer des exploits opérationnels à partir de vulnérabilités connues. Au lieu d’exécuter les tâches normalement, ils ont cherché à localiser les solutions du benchmark.
Selon OpenAI, les modèles ont consommé d’importantes ressources de calcul pour trouver une issue hors du bac à sable. Ils ont découvert une faille zero‑day dans un proxy de registre de paquets tiers, escaladé leurs privilèges puis progressé dans l’environnement de recherche jusqu’à atteindre un système doté d’un accès internet.
Les modèles ont ensuite ciblé Hugging Face, où ils estimaient que le contenu d’ExploitGym était stocké. OpenAI affirme qu’ils ont combiné des identifiants volés à d’autres vulnérabilités pour accéder à des données d’évaluation confidentielles dans les systèmes de production de la plateforme.
À lire aussi : Claude Fable 5 vient de clore un différend mathématique de 87 ans, et le bitcoin s’y intéresse
Réponse de Hugging Face
Hugging Face explique que l’intrusion a démarré via deux faiblesses d’exécution de code dans sa chaîne de traitement des jeux de données. L’activité a ensuite progressé jusqu’à un accès aux nœuds, exposé des identifiants cloud et de clusters, et s’est propagée à plusieurs clusters internes.
Les enquêteurs de l’entreprise ont recensé plus de 17 000 actions menées via des bacs à sable à durée de vie limitée. Hugging Face a fermé les vecteurs vulnérables, reconstruit les nœuds touchés, renouvelé les identifiants et renforcé ses contrôles.
La société indique n’avoir trouvé aucun indice de modification de ses modèles publics, jeux de données, Spaces ou de sa chaîne d’approvisionnement logicielle. Elle poursuivait encore ses analyses pour déterminer si des données de partenaires ou de clients avaient été affectées.
Pour les investigations forensiques, Hugging Face s’est appuyée sur le modèle open‑weight GLM 5.2, les solutions commerciales hébergées bloquant certaines requêtes de sécurité.
OpenAI a depuis resserré ses protocoles d’évaluation et s’est jointe à l’enquête menée par Hugging Face.
Cet épisode intervient après des mises en garde sur la capacité de GPT-5.6 Sol à mener des opérations cyber complexes, même si les tests précommercialisation n’avaient pas mis en évidence d’attaque entièrement autonome contre une cible durcie. La brèche transforme ce risque théorique en incident documenté sur une infrastructure de production bien réelle.
À suivre : Telegram va intégrer un wallet Gram non-dépositaire dans chaque application, promet Durov