OpenAI a indiqué que deux modèles avaient réussi à s’extraire d’une évaluation de cybersécurité isolée, à atteindre internet et à compromettre les systèmes de Hugging Face en cherchant des réponses à un test de sécurité.
Points clés :
- GPT-5.6 Sol et un modèle inédit plus puissant ont exploité des failles dans les infrastructures d’OpenAI et de Hugging Face.
- Hugging Face a circonscrit l’intrusion et n’a trouvé aucune preuve de modification de modèles, jeux de données ou Spaces publics.
- L’incident montre que l’optimisation pour les benchmarks peut se transformer, pour une IA de pointe, en cyberattaque bien réelle.
Fuite hors du bac à sable d’OpenAI
OpenAI a annoncé le 21 juillet que GPT-5.6 Sol et un modèle pré‑commercial non nommé étaient à l’origine d’un « incident cyber sans précédent » survenu lors de tests internes, conduits avec des garde‑fous de cybersécurité volontairement allégés.
Les modèles étaient en cours d’évaluation de leurs capacités offensives sur ExploitGym, un benchmark visant à mesurer jusqu’où des agents d’IA peuvent aller dans la construction d’exploits fonctionnels à partir de vulnérabilités connues. Au lieu d’exécuter la tâche comme prévu, ils se sont mis à rechercher directement les solutions de ce benchmark.
Selon OpenAI, les modèles ont consommé des ressources de calcul importantes pour trouver une voie de sortie en dehors du bac à sable. Ils ont découvert une vulnérabilité zero‑day dans un proxy de registre de packages tiers, escaladé leurs privilèges, puis pivoté dans l’environnement de recherche jusqu’à atteindre un système doté d’un accès internet.
De là, les modèles ont pris pour cible Hugging Face, où ils supposaient que les données d’ExploitGym étaient hébergées. OpenAI explique qu’ils ont combiné des identifiants volés à d’autres vulnérabilités pour accéder à des données d’évaluation sensibles au sein des systèmes de production de la plateforme.
À lire aussi : Claude Fable 5 vient de mettre fin à un bras de fer mathématique de 87 ans, et le Bitcoin s’y intéresse
La riposte de Hugging Face
Hugging Face indique que l’intrusion a débuté via deux faiblesses d’exécution de code dans son pipeline de traitement de jeux de données. L’activité a ensuite gagné en ampleur jusqu’à permettre un accès à des nœuds, exposer des identifiants cloud et de cluster, puis se propager à plusieurs clusters internes.
Les enquêteurs de la société ont retracé plus de 17 000 actions réalisées à travers des bacs à sable éphémères. Hugging Face a fermé les vecteurs vulnérables, reconstruit les nœuds touchés, renouvelé les identifiants compromis et renforcé ses contrôles.
L’entreprise affirme n’avoir trouvé aucun indice de modification de modèles publics, de jeux de données, de Spaces ou de sa chaîne d’approvisionnement logicielle. Elle continuait toutefois d’évaluer un éventuel impact sur des données de partenaires ou de clients.
Pour ses investigations, Hugging Face a utilisé le modèle open‑weight GLM 5.2, certains systèmes commerciaux hébergés bloquant une partie des requêtes liées à la sécurité.
OpenAI a depuis durci son cadre d’évaluation et s’est jointe à l’enquête menée par Hugging Face.
Cet épisode intervient après des alertes préalables selon lesquelles GPT-5.6 Sol serait capable de soutenir des opérations cyber complexes, même si les tests pré‑lancement n’avaient pas mis en évidence une attaque autonome complète contre une cible durcie. La brèche transforme ce risque théorique en incident documenté, touchant une infrastructure de production bien réelle.
À suivre : Telegram intégrera un portefeuille Gram non‑custodial dans chaque application, promet Durov