Le gouverneur de la Banque d’Angleterre, Andrew Bailey, estime que des tests approfondis des systèmes d’intelligence artificielle doivent précéder toute régulation formelle, tout en laissant aux autorités la capacité d’intervenir à mesure que les risques montent en puissance.
Points clés :
- Bailey reconnaît que les risques liés à l’IA augmentent, mais juge prioritaire d’identifier les vulnérabilités avant de bâtir un cadre réglementaire complet.
- Il plaide pour des tests rigoureux avant et après le déploiement, assortis de garde-fous clairs et de véritables points d’intervention humaine.
- Ses propos interviennent alors que les grands acteurs de l’IA et le gouvernement américain débattent de contrôles volontaires, d’un ralentissement du développement et de futures règles contraignantes.
La stratégie de tests prônée par Bailey
Bailey a déclaré, dans un entretien à la BBC (lire ici), que les risques liés à l’IA sont « réels et de plus en plus significatifs », mais que les décideurs doivent d’abord comprendre précisément où et comment ces systèmes peuvent défaillir avant de définir des règles. « La régulation n’est pas, à mes yeux, le bon point de départ », écrit-il.
Selon lui, la société doit préserver sa capacité à fixer des lignes rouges autour des technologies d’IA avancées, en s’appuyant sur des campagnes de tests intensifs avant et après mise en production. L’objectif : mettre au jour les vulnérabilités et vérifier si les garde-fous techniques suffisent à contenir les défaillances. Il juge inopportun d’interdire le développement de l’IA, estimant que « les bénéfices potentiels sont immenses ».
Le Royaume-Uni s’est déjà doté d’un AI Security Institute, que Bailey présente comme un pilier pour poser les bases scientifiques et techniques de la “confiance” dans l’IA. « Mais le rythme des avancées doit s’accélérer », ajoute-t-il. Pour lui, un comportement inattendu d’un modèle ne signifie pas que les tests ont échoué : c’est précisément la preuve de leur nécessité.
À lire aussi : Ripple aide le dépositaire central brésilien CSD BR à répliquer la détention de fonds sur une blockchain publique
Le débat sur la sécurité chez OpenAI
Les principaux acteurs du secteur, dont OpenAI et Anthropic, militent pour des garde-fous renforcés et des évaluations de risques coordonnées au niveau international, sur fond d’inquiétudes croissantes face à des systèmes toujours plus puissants. OpenAI a récemment indiqué qu’il ne publierait pas son dernier modèle d’IA en raison de préoccupations de sécurité.
Le président Donald Trump a, lui, rejeté les appels à ralentir le développement américain dans la course technologique avec la Chine, déclarant que « celui qui gagne l’IA gagne tout ». À l’issue d’une rencontre, le 29 septembre, à la Maison-Blanche avec plusieurs dirigeants de la tech, Trump a assuré que les participants avaient signé un document « moralement contraignant » sur l’IA, présenté comme une « forme de protection ».
Dans le cadre de cet engagement, les entreprises participantes s’engagent à assumer la responsabilité de la sécurité de leurs propres technologies. L’approche de Bailey se distingue par son accent sur la phase de tests : il veut que ceux-ci servent à identifier précisément où l’intervention publique est nécessaire, avant que les autorités ne figent un cadre réglementaire plus formel autour des systèmes avancés.
Le débat s’est nettement intensifié ces dernières semaines, à mesure que développeurs, gouvernements et autorités financières se confrontent à des cycles d’innovation accélérés et à des questions de gouvernance de plus en plus complexes. La nouvelle prise de position de Bailey intervient après les appels de l’industrie à des garde-fous coordonnés, la décision d’OpenAI de différer la publication d’un modèle, et l’initiative de la Maison-Blanche en faveur de mécanismes volontaires pilotés par les entreprises.
