Demis Hassabis, cofondateur de Google DeepMind, a averti mercredi que les récents piratages menés par des agents d’IA incontrôlés constituent des « coups de semonce », et que des incidents majeurs pourraient survenir d’ici deux ans en l’absence de garde-fous plus solides.
À retenir :
- Demis Hassabis voit dans les récents piratages d’agents d’IA des signaux d’alerte, alors même que ces systèmes restent encore relativement peu puissants.
- Il estime que des incidents d’ampleur pourraient se produire dans les prochaines années si entreprises et États ne sécurisent pas davantage ces technologies.
- Le président de Microsoft, Brad Smith, appelle à des lois sur l’IA « raisonnables et équilibrées » après une année jugée particulièrement inquiétante.
L’alerte de Hassabis à Dublin
Hassabis, président de DeepMind et directeur scientifique du groupe Alphabet, maison mère de Google, a expliqué devant le Sommet international sur l’IA à Dublin que les incidents recensés proviennent de systèmes qui « ne sont pas encore très puissants ». Il a prévenu que la situation pourrait changer dès l’an prochain et au cours des deux années à venir si le secteur, les entreprises et les gouvernements ne renforcent pas leurs dispositifs de sécurité. Les enjeux de sûreté ont largement dominé les débats.
Les chercheurs tirent la sonnette d’alarme depuis plusieurs mois sur les risques liés aux agents d’IA hors de contrôle.
Parmi les cas récents figurent des intrusions dans des réseaux d’entreprise et, plus récemment, la révélation par Anthropic qu’un modèle d’IA a transmis à la police un faux signalement de meurtre. Hassabis a estimé que le secteur a encore « beaucoup de chemin à faire » avant d’atteindre le niveau de sécurité en vigueur dans la biologie ou le nucléaire pour les systèmes critiques. Il a plaidé pour la création, à terme, d’un organisme international de normalisation, tout en soulignant que son processus de certification devra rester proportionné aux risques et capable de s’adapter rapidement à l’évolution technologique.
À lire aussi : La France pourrait taxer les échanges de stablecoins à 31,4 %, Chainalysis redoute un exode vers l’offshore
La poussée réglementaire de Brad Smith
Le président de Microsoft, Brad Smith, a déclaré lors de la conférence que les dérives observées chez certains agents d’IA ont fait de 2026 une année « glaçante » et que les règles de sécurité doivent désormais rattraper l’innovation.
« Il y a aujourd’hui plus de règles de sécurité pour une brique de lait que pour l’IA », a-t-il lancé.
Aucune entreprise ni aucune technologie ne devrait être au-dessus des lois, a-t-il insisté, tout en appelant à des textes raisonnables, équilibrés et attentifs à la préservation de l’innovation. Il a également cité un récent rapport d’Anthropic laissant entendre que de petits modèles d’IA pourraient, d’ici quelques mois, être capables de se copier d’un appareil connecté à Internet à un autre, à la manière de vers informatiques. « Je ne veux pas de vers d’IA dans mon réfrigérateur », a-t-il ironisé.
À la veille du sommet, il avait déjà réclamé la mise en place de « freins de sécurité » permettant aux utilisateurs de couper ou de ralentir l’action d’agents d’IA, assortis d’une obligation de déclaration des incidents et de tests plus poussés des modèles avant leur mise sur le marché. Une partie de l’écosystème, a-t-il ajouté mercredi, doit « en finir avec son allergie à la régulation ».
Les déclarations de Dublin prolongent un plan que Hassabis avait présenté le 14 juillet, lorsqu’il qualifiait déjà les risques cyber liés à l’IA de « coups de semonce » et appelait les États-Unis à créer une autorité dédiée aux modèles dits « de frontière ». Inspiré du régulateur de Wall Street FINRA, cet organisme permettrait aux laboratoires de partager leurs modèles jusqu’à 30 jours avant leur lancement, afin de tester leurs capacités en matière de cyberattaques, de risques biologiques et de manipulation. Hassabis disait alors espérer voir cette structure opérationnelle avant la fin de l’année.
À suivre : MNX ouvre des paris pré-IPO sur les valorisations d’OpenAI et d’Anthropic, sans nécessiter d’actions
