イングランド銀行（BoE）のアンドリュー・ベイリー総裁は、AIに関する正式な規制づくりに先立ち、 モデルの厳格なテストを優先すべきだとの考えを示した。そのうえで、リスクが拡大した際には 当局が介入できる余地を確保しておくべきだと強調した。
主なポイント
- AIリスクは拡大しているが、まずは脆弱性を洗い出してから本格的な規制枠組みを設計すべきと指摘。
- 導入前後を通じた厳格なテストと明確なセーフガード、人間による介入ポイントの確立を求めた。
- こうした発言は、大手AI企業と米政府が自主的な統制や開発ペースの抑制、将来の法規制を巡って 議論を深めるなかで出てきた。
ベイリー総裁の「AIテスト優先」論
ベイリー総裁はBBCのインタビューで、 AIリスクは「現実のものであり、かつ増大している」としたうえで、制度としての規制を設計する前に、 まず「どこでシステムが破綻し得るのか」を見極める必要があると述べた。 「しかし、出発点としてふさわしいのは規制そのものではないと私は考える」とも記している。
同総裁は、社会として高度なAIに対する「境界線」を引く能力を維持すべきだとし、 導入前後の厳格なテストを通じて脆弱性をあぶり出し、用意したセーフガードで どこまで不測の事態を封じ込められるかを検証すべきだと指摘した。 一方で、「AIの潜在的な利益は計り知れない」として、開発そのものを禁じるべきではないとの立場も示した。
英国はすでにAIの安全性検証を担う「AIセキュリティ・インスティテュート」を設置しており、 ベイリー総裁は、同機関がAIアシュアランス（信頼性評価）の科学的・技術的基盤づくりを進めていると評価した。 ただ、「進展のスピードをもっと上げる必要がある」とも指摘。 想定外のモデル挙動が起きることは「テストの失敗」を意味するのではなく、 むしろ「なぜテストが不可欠なのか」を示すものだと強調した。
関連記事: リップル、ブラジルCSD BRのファンド持分をパブリック・ブロックチェーン上でミラーリング
OpenAIを巡る安全性論議
OpenAIやAnthropicを含む大手AI企業は、 システム能力が急速に高度化するなかで、安全策の一段の強化や国際的なリスク評価の枠組みづくりを求めている。 OpenAIは最近、安全性上の懸念を理由に最新モデルの一般公開を見送る決定を下した。
一方、米国のドナルド・トランプ大統領は、中国との競争のなかで米国のAI開発ペースを落とすべきだとの 要請を退け、「AIで勝つ者がすべてを制する」と発言。 9月29日にホワイトハウスで大手テクノロジー企業のトップらと会談した後、 参加企業が署名したAI文書について「倫理的拘束力を持つ」ものであり、 ある種の「保護の形態」だと述べた。
この合意では、参加企業が自社AI技術の安全性に一次的な責任を負う形となっている。 これに対しベイリー総裁のアプローチは、よりテスト重視であり、 まず徹底した検証を通じて公的な介入ポイントを特定したうえで、 その周囲に高度AI向けのより正式な規制枠組みを構築していくべきだという点に特徴がある。
ここ数週間、AI開発企業と政府、金融当局の間では、より高速化するモデル開発と 監督手法の難しさを巡る議論が一段と活発化している。 ベイリー総裁の今回の発言は、業界からの協調的セーフガード構築の呼びかけ、 OpenAIによるモデル公開見送り、そしてホワイトハウスによる企業主導の自主規制推進といった動きに呼応する形で出てきたものだ。
