Le gouverneur de la Banque d’Angleterre, Andrew Bailey, affirme que des tests approfondis des systèmes d’intelligence artificielle doivent précéder toute réglementation formelle, tout en maintenant la capacité des autorités à intervenir à mesure que les risques se renforcent.
Points clés :
- Bailey estime que les risques liés à l’IA augmentent, mais que les autorités doivent d’abord cartographier les vulnérabilités avant de bâtir un cadre réglementaire formel.
- Il réclame des tests rigoureux avant et après le déploiement, assortis de garde-fous clairs et de points d’intervention humaine crédibles.
- Ses propos interviennent alors que les grands acteurs de l’IA et le gouvernement américain débattent de contrôles volontaires, d’un éventuel ralentissement des développements et de futures règles.
Les tests d’IA selon Bailey
Bailey a déclaré que les risques de l’IA sont « réels et de plus en plus importants », mais que les décideurs publics doivent d’abord comprendre où et comment les systèmes peuvent défaillir avant de fixer le fonctionnement de règles formelles. « La réglementation n’est pas, à mes yeux, le bon point de départ », écrit-il.
Il plaide pour que la société conserve la capacité de fixer des limites à l’IA avancée, en s’appuyant sur des tests rigoureux avant et après la mise en production, afin de mettre au jour les vulnérabilités et de vérifier si les garde-fous suffisent à contenir les défaillances. Selon lui, le développement de l’IA ne doit pas être interdit, car « les bénéfices potentiels sont immenses ».
Le Royaume-Uni a déjà créé l’AI Security Institute, qui, selon Bailey, contribue à poser les bases scientifiques et techniques de l’audit et de la confiance dans l’IA. « Mais le rythme des progrès doit s’accélérer », souligne-t-il. Bailey ajoute que des comportements inattendus des modèles ne signifient pas que les tests ont échoué, mais illustrent au contraire pourquoi ces tests sont indispensables.
À lire aussi : Ripple aide le dépositaire central brésilien CSD BR à refléter la détention de fonds sur une blockchain publique
Le débat sur la sécurité chez OpenAI
Les principaux acteurs de l’IA, dont OpenAI et Anthropic, militent pour des garde-fous renforcés et des évaluations des risques coordonnées au niveau international, alors que les inquiétudes face à des systèmes toujours plus puissants se multiplient. OpenAI a récemment indiqué qu’elle ne publierait pas son dernier modèle d’IA en raison de préoccupations en matière de sécurité.
Le président Donald Trump a rejeté les appels à ralentir le développement américain dans la course avec la Chine, affirmant que « celui qui gagnera l’IA, gagnera ». À l’issue d’une réunion, le 29 septembre, à la Maison-Blanche avec plusieurs dirigeants de la tech, Trump a indiqué que les participants avaient signé un document sur l’IA, « moralement contraignant », présenté comme une « forme de protection ».
Dans le cadre de cet accord, les entreprises signataires restent responsables de la sécurité de leurs propres technologies. L’approche de Bailey diffère par son accent : il souhaite que les tests déterminent en amont où l’intervention publique est nécessaire, avant que les autorités ne bâtissent un cadre réglementaire plus formel autour des systèmes les plus avancés.
Le débat s’est nettement intensifié ces dernières semaines, à mesure que développeurs d’IA, gouvernements et autorités financières sont confrontés à des cycles de développement de modèles toujours plus rapides et à des questions de supervision plus complexes. La nouvelle prise de position de Bailey intervient après les appels du secteur à des garde-fous coordonnés, la décision d’OpenAI de ne pas publier un modèle et l’initiative de la Maison-Blanche en faveur de mécanismes volontaires pilotés par les entreprises.
À lire ensuite : Les altcoins représentent 41 % de l’open interest sur les dérivés, le volume au comptant grimpe à 4 fois celui du bitcoin
