イングランド銀行（BoE）のアンドリュー・ベイリー総裁は、AIの本格的な規制に踏み込む前に、 モデルの徹底的なテストを優先すべきだとの見解を示した。リスクが増大しても当局が介入できる余地は 確保しつつも、「まず検証、その後に規制」という順序を重視している。
主なポイント
- ベイリー総裁はAIリスクの拡大を認めつつも、形式的な規制枠組みを構築する前に、 どこに脆弱性があるかを見極めるべきだと指摘。
- 導入前後を通じた厳格なテストに加え、明確なセーフガードと、 必要時に人間が介入できる信頼性の高い仕組みを求めた。
- こうした発言は、主要AI企業と米政府の間で、自主的なコントロールや開発ペースの抑制、 将来の規制の在り方を巡る議論が続くなかで出てきたもの。
ベイリー総裁の「AIテスト優先」論
ベイリー総裁は、AIのリスクは「現実的で、かつ今後さらに大きくなる」としながらも、 まずはシステムがどのような形で破綻し得るのかを把握すべきだと主張した。 そのうえで、規制の在り方を決めるべきであり、「規制から入るのは正しい順番ではない」と 英BBCへの寄稿で述べている。
同総裁は、先端的なAIについても社会として「線引き」を行える能力を維持することが重要だと強調。 導入前後にわたる厳格なテストを通じて脆弱性を洗い出し、セーフガードが どこまで不測の事態を封じ込められるかを検証すべきだとした。 一方で、「潜在的な恩恵は計り知れない」として、AI開発そのものを禁じるべきではないとも述べている。
英国ではすでにAIの安全性検証を担う「AIセキュリティ・インスティテュート」が設立されている。 ベイリー総裁は、同機関がAIの信頼性確保に向けた科学的・技術的基盤の構築に貢献していると評価しつつ、 「進展のスピードをさらに上げる必要がある」と注文を付けた。 また、予期せぬモデル挙動が生じることはテストの失敗ではなく、 「なぜテストが不可欠なのかを示すものだ」とも述べ、検証強化の必要性を重ねて訴えた。
関連記事: リップル、ブラジルのCSD BRによる公的ブロックチェーン上でのファンド持分ミラー化を支援
OpenAIを巡る安全性論争
OpenAIやAnthropicをはじめとする主要AI企業は、 性能が急速に高まるシステムへの懸念を背景に、より強力なセーフガードや 国際的に調整されたリスク評価の枠組みを求めている。 OpenAIは最近、安全性への懸念を理由に、最新モデルの公開を見送る決定を明らかにした。
一方、ドナルド・トランプ米大統領は、中国との開発競争を理由に、 米国のAI開発ペースを落とすべきだとの主張を退けている。 「AIで勝つ者が、すべてを制する」と発言し、9月29日にホワイトハウスで 大手テック企業の経営陣と会合を持った後、出席者が署名したAIに関する文書は 「道義的拘束力を持つ」ものであり、「一種の保護策だ」と説明した。
この合意では、参加企業が自社AI技術の安全性について一次的な責任を負う形となっている。 ベイリー総裁のアプローチは、先にテストで介入すべき箇所を特定し、 その結果を踏まえて高度なAIを取り巻くより正式な規制構造を設計するという点で、 企業の自主規制に重きを置く米国の動きとは強調点が異なる。
開発スピードの加速を受け、最近になってAI開発企業、各国政府、金融当局の間で、 監督の在り方を巡る議論は一段と活発化している。 ベイリー総裁の今回の発言は、国際的なセーフガード整備を求める産業界の声、 OpenAIによるモデル公開見送りの判断、そしてホワイトハウス主導の 企業主体の自主的な安全対策の流れを背景にしたものだ。
