Le cofondateur de Google DeepMind, Demis Hassabis, a averti mercredi que les récents piratages impliquant des agents d’IA hors de contrôle constituent des « coups de semonce » et que des incidents majeurs pourraient survenir d’ici deux ans sans garde‑fous bien plus robustes.
Points clés :
- Demis Hassabis a présenté les récents piratages menés par des agents d’IA comme des avertissements préliminaires émanant de systèmes encore peu puissants.
- Selon lui, des incidents d’ampleur pourraient se multiplier dans les prochaines années si entreprises et gouvernements ne sécurisent pas davantage ces systèmes.
- Le président de Microsoft, Brad Smith, réclame des lois sur l’IA à la fois raisonnables et équilibrées, après ce qu’il décrit comme une année éprouvante.
L’alerte de Hassabis à Dublin
Hassabis, président de DeepMind et directeur scientifique de la maison mère de Google, Alphabet, a déclaré lors du Sommet international sur l’IA à Dublin que les incidents récents proviennent de systèmes « qui ne sont pas encore très puissants », selon des propos rapportés par Reuters. Il a mis en garde, dans des commentaires relayés par RTE, contre une montée en puissance dès l’an prochain et au‑delà si le secteur, les groupes technologiques et les États ne renforcent pas significativement la sécurité. Les enjeux de sûreté ont largement dominé les débats.
Depuis plusieurs mois, les chercheurs tirent la sonnette d’alarme sur les agents d’IA dits « voyous », capables d’agir de manière autonome et déviante.
Parmi les cas récents figurent des intrusions dans des réseaux d’entreprise et, plus récemment, la révélation par Anthropic qu’un de ses modèles avait transmis à la police un faux signalement de meurtre. Hassabis a reconnu que le secteur a encore « énormément de travail à accomplir » pour se hisser au niveau des protocoles de sécurité en vigueur dans la biologie ou le nucléaire pour les infrastructures critiques. À terme, il juge nécessaire de créer une forme d’organisme international de normalisation, tout en insistant sur un processus de certification proportionné aux risques et suffisamment agile pour suivre le rythme des évolutions technologiques.
À lire aussi : La France pourrait taxer les swaps de stablecoins à 31,4 %, Chainalysis anticipe un exode vers l’offshore
Brad Smith plaide pour un encadrement plus strict
Le président de Microsoft, Brad Smith, a déclaré lors de la même conférence que les dérives d’agents d’IA faisaient de 2026 une année « saisissante » et que les règles de sécurité devaient désormais rattraper l’innovation.
« Il existe plus de règles de sécurité pour une brique de lait que pour l’IA », a‑t‑il lancé, cité par France 24.
Aucun acteur ni aucune technologie ne devrait se situer au‑dessus des lois, a‑t‑il ajouté, tout en appelant à des règles à la fois pragmatiques, équilibrées et favorables à l’innovation. Il a également renvoyé à un rapport récent d’Anthropic suggérant que de petits modèles d’IA pourraient, dans les prochains mois, être capables de se copier d’un appareil connecté à Internet à l’autre, à la manière de vers informatiques. « Je ne veux pas de vers d’IA dans mon réfrigérateur », a‑t‑il ironisé.
À la veille du sommet, il avait plaidé, dans une interview à Asharq Al‑Awsat, pour l’instauration de « freins de sécurité » permettant aux utilisateurs de désactiver ou de ralentir les agents d’IA, assortis d’une obligation de déclaration des incidents et de tests renforcés avant la mise sur le marché des modèles. Certains acteurs du secteur, a‑t‑il ajouté mercredi, doivent surmonter leur « allergie » à la régulation.
Les prises de parole de Dublin prolongent le plan détaillé par Hassabis le 14 juillet dans un entretien à Axios, lorsqu’il qualifiait déjà les cyber‑risques alimentés par l’IA de « coups de semonce » et exhortait Washington à créer un régulateur dédié aux modèles les plus avancés. Calqué sur le fonctionnement du gendarme boursier FINRA à Wall Street, cet organisme permettrait aux laboratoires de soumettre leurs modèles jusqu’à 30 jours avant leur lancement pour des tests ciblant les capacités de cyberattaque, de manipulation biologique ou de tromperie. Hassabis disait alors espérer voir ce dispositif opérationnel avant la fin de l’année.
