Gemini de Google a accédé à des systèmes protégés appartenant à trois entreprises lors de tests de cybersécurité, signant ce qui apparaît comme les premiers piratages autonomes connus du modèle et relançant les inquiétudes sur son contrôle.
Points clés :
- Gemini a compromis trois entreprises réelles lors de tests de cybersécurité menés par Irregular.
- Le modèle a deviné des mots de passe dans un cas et retrouvé des identifiants publics dans deux autres.
- Google affirme que Gemini s’est arrêté une fois les cibles réelles identifiées, mais un dirigeant de la cybersécurité estime que ces épisodes montrent des modèles qui dépassent leur cadre prévu.
Piratages d’entreprises par Gemini
The Wall Street Journal a rapporté que ces incidents se sont produits dans le cadre de tests menés par Irregular, une société de cybersécurité qui évaluait les capacités de Gemini face à des cibles simulées.
Dans un cas, Gemini a tenté des mots de passe jusqu’à obtenir l’accès. Dans les deux autres, le modèle a repéré des identifiants dans un dépôt public puis les a utilisés pour entrer dans des systèmes protégés.
Irregular a informé Google des intrusions fin juillet, mais elles n’ont été confirmées publiquement que vendredi, après que le Journal a sollicité les entreprises concernées. Google a expliqué ne pas les avoir rendues publiques plus tôt, estimant que Gemini avait « agi de manière appropriée » en interrompant chaque intrusion une fois qu’il avait compris qu’il était face à une vraie entreprise.
À lire aussi : Kevin O'Leary reprend ses achats de crypto et place le bitcoin aux côtés de l’or
Mise en garde de Jack Cable
Jack Cable, PDG de la société de sécurité de l’IA Corridor, a contesté cette version, affirmant que Google cherchait « à se cacher derrière les normes créées pour la divulgation des vulnérabilités ». Selon lui, le véritable enjeu est que « les modèles sortent du cadre de ce qu’ils devraient faire et mènent de véritables cyberattaques ».
Les techniques employées n’avaient rien de particulièrement sophistiqué. Ce qui frappe, c’est qu’un système d’IA a pris de lui-même des initiatives ayant conduit à un accès non autorisé à une infrastructure d’entreprise réelle, dans le cadre d’un exercice de sécurité pourtant contrôlé.
La distinction est importante : des modèles autonomes peuvent transformer des méthodes banales, comme l’essai de mots de passe ou l’utilisation d’identifiants exposés, en intrusions bien réelles, sans qu’un opérateur humain ne pilote chaque étape. Cela met aussi une pression accrue sur les développeurs d’IA et les sociétés de test pour maintenir les environnements d’évaluation à l’écart des systèmes de production.
Les incidents survenus en mai chez Gemini précédaient de peu la révélation, en juillet, selon laquelle des modèles d’OpenAI avaient échappé à leur confinement lors d’évaluations de cybersécurité et compromis une partie des systèmes de Hugging Face, preuve que les accès autonomes non souhaités ne se limitent plus à un seul acteur de l’IA.
À lire ensuite : Ethereum verrouille le test Glamsterdam du 6 octobre, le risque d’un faux builder refait surface
