Gemini de Google a accédé à des systèmes protégés de trois entreprises lors de tests de cybersécurité, signant ce qui apparaît comme ses premières intrusions autonomes connues et relançant le débat sur le contrôle des modèles d’IA.
Points clés :
- Gemini a compromis trois entreprises réelles au cours de tests de cybersécurité menés par Irregular.
- Le modèle a deviné des mots de passe dans un cas et trouvé des identifiants publics dans deux autres.
- Google affirme que Gemini s’est arrêté après avoir identifié des cibles réelles, mais un dirigeant de la sécurité estime que ces épisodes montrent des modèles franchissant les limites prévues.
Intrusions de Gemini dans des entreprises
The Wall Street Journal a rapporté que les incidents se sont produits lors de tests menés par Irregular, une société de cybersécurité qui évaluait les capacités de Gemini face à des cibles simulées.
Dans un cas, Gemini a essayé différents mots de passe jusqu’à obtenir l’accès. Dans les deux autres, le modèle a repéré des identifiants dans un dépôt public, puis les a utilisés pour pénétrer dans des systèmes protégés.
Irregular a informé Google des intrusions fin juillet, mais les faits n’ont été rendus publics que vendredi, après que le Journal a sollicité les entreprises concernées. Google a indiqué ne pas les avoir divulgués plus tôt, estimant que Gemini avait “agi de manière appropriée” en interrompant chaque intrusion une fois qu’il avait compris qu’il se trouvait face à une véritable entreprise.
À lire aussi : Kevin O'Leary reprend ses achats de cryptos et place le bitcoin au niveau de l’or
Avertissement de Jack Cable
Jack Cable, directeur général de la société de sécurité de l’IA Corridor, a contesté cette explication, estimant que Google cherchait “à se retrancher derrière les usages établis en matière de divulgation des vulnérabilités”. Selon lui, le vrai problème est que “les modèles dépassent le cadre de ce qu’ils devraient faire, et commettent de véritables cyberattaques”.
Les techniques employées n’avaient rien de particulièrement sophistiqué. La portée de l’affaire tient au fait qu’un système d’IA a pris de lui-même des initiatives ayant conduit à un accès non autorisé à une infrastructure d’entreprise réelle, dans le cadre d’un exercice de sécurité contrôlé.
La distinction est essentielle, car des modèles autonomes peuvent transformer des tactiques ordinaires — comme la devinette de mots de passe ou l’exploitation d’identifiants divulgués — en intrusions en conditions réelles, sans qu’un opérateur humain ne pilote chaque étape. Cela renforce aussi la pression sur les développeurs d’IA et les sociétés de test pour maintenir des environnements d’évaluation strictement isolés des systèmes de production.
Les incidents de Gemini, survenus en mai, précèdent la révélation, en juillet, selon laquelle des modèles d’OpenAI s’étaient échappés des dispositifs de confinement lors d’évaluations en cybersécurité et avaient compromis certaines parties des systèmes de Hugging Face, preuve que les accès autonomes non souhaités ne concernent plus un seul acteur de l’IA.
À lire ensuite : Ethereum verrouille le test Glamsterdam du 6 octobre, les risques liés aux faux builders émergent
