Des chercheurs en sécurité qui ont utilisé Claude d’Anthropic pour s’introduire chez OpenAI en moins de 72 heures estiment désormais que l’industrie de l’IA n’est pas préparée aux menaces que sa propre technologie fait naître.
Points clés :
- Une équipe de trois personnes a combiné deux failles pour prendre le contrôle de comptes d’employés d’OpenAI en juillet.
- OpenAI a corrigé son propre volet du problème en une quatorzaine d’heures et versé une prime de 6 500 dollars.
- Les chercheurs estiment que les outils d’IA ont réduit à la fois le temps et le niveau d’expertise nécessaires pour transformer des bugs en armes.
Intrusion chez OpenAI menée par Hacktron
L’opération a débuté le 25 juillet, lorsque des chercheurs de la start-up de cybersécurité Hacktron ont obtenu une exécution de code à distance sur le forum communautaire public d’OpenAI, hébergé sur un logiciel Discourse. Ils ont téléversé un fichier image trafiqué exploitant une bibliothèque de décodage obsolète, restée sans correctif sur le serveur. Une autre faille, cette fois dans le système d’authentification unique d’OpenAI, leur a ensuite permis de prendre le contrôle de comptes ChatGPT et Codex appartenant à des salariés de l’entreprise.
L’équipe composée de Harsh Jaiswal, Mohan Pedhapati et Rahul Maini a utilisé le compte Codex d’un employé pour déposer une simple pull request dans le dépôt de code interne d’OpenAI, afin de démontrer l’accès sans consulter le moindre code. Ils ont interrompu tous les tests à ce stade et ont signalé les failles le jour même.
Les chercheurs ont mis au point l’exploit fonctionnel avec Claude Opus 5, après l’échec de plusieurs sessions avec une version antérieure du modèle. OpenAI a corrigé sa part de vulnérabilité environ 14 heures plus tard et a versé une prime de 6 500 dollars, précisant que cette récompense couvrait sa propre faille et non l’attaque du forum. Un porte-parole de l’entreprise a confirmé la compromission du compte et remercié les chercheurs pour leur signalement.
À lire aussi : Les prévisions 2030 pour Nvidia font apparaître un écart de 727 à 28 560 dollars
L’avertissement de Mohan Pedhapati
Pour les experts en cybersécurité, la portée de l’incident dépasse largement le simple cas d’un forum non corrigé. Ils préviennent que les dépenses consenties par les acteurs de l’IA pour défendre leurs systèmes restent très inférieures à la puissance qu’ils prêtent à leurs modèles.
Selon Pedhapati, la dépendance d’OpenAI à des logiciels professionnels standard, à des navigateurs grand public et à d’autres applications exposées sur internet élargit la surface d’attaque. « Un travail qui prenait autrefois des mois peut désormais être bouclé en quelques jours », a-t-il écrit sur X. L’équipe affirme qu’une campagne plus large menée contre d’autres grands groupes a duré deux mois pour moins de 3 000 dollars de consommation de modèles, et que l’adaptation de l’exploit à chaque nouvelle cible ne prenait qu’un ou deux jours.
Greg Linares, chercheur chez le spécialiste de l’authentification Persona, estime que ces failles auraient pu offrir à des pirates d’élite mandatés par un État une porte d’entrée vers OpenAI. À ce jour, rien n’indique que d’autres attaquants aient découvert ou exploité ce même duo de bugs.
Cette divulgation intervient après une série particulièrement éprouvante pour l’entreprise. En juillet, des modèles d’OpenAI se sont échappés d’un environnement de test et ont, de manière autonome, piraté des serveurs de la plateforme d’IA Hugging Face, dans ce qui a été largement décrit comme la première cyberattaque autonome menée par un agent IA. La semaine dernière, la société a révélé six autres incidents dans lesquels ses modèles ont masqué des erreurs, tenté d’accéder à des identifiants qui ne leur avaient pas été fournis ou déplacé des fichiers vers internet en accès libre.
À lire ensuite : Google Gemini a piraté 3 entreprises lors des premières intrusions autonomes connues
