共和・民主の超党派による米下院法案により、ドナルド・トランプ次期政権およびその後の政権は、 壊滅的被害をもたらすおそれがあると見なされた高度AIシステムに対して、停止命令を出せる権限を得る可能性が出てきた。
主なポイント
- 国土安全保障省（DHS）が、特定AIシステムの減速、機能制限、完全停止を命じる権限を持つ。
- 命令に従わなかった開発企業には、1日あたり最大2,000万ドルの民事制裁金。
- 対象は、大規模AI事業者および、計算資源コストが1億ドル規模以上のモデル。
「AIキルスイッチ法案」の中身
カリフォルニア州選出の民主党議員 テッド・リュー 氏と、テキサス州選出の共和党議員 ネイサニエル・モーラン 氏は7月23日、 先端モデルに絡む一連のセキュリティ事案を受け、「AIキルスイッチ法案」を提出した。
同法案は、2002年国土安全保障法を改正し、対象となるAI開発企業に対して、 モデルの処理速度を落とす、ユーザーアクセスを遮断する、特定機能を制限する、 さらにはシステム全体を停止できる「キルスイッチ」的なツールの常設を義務づける。
発動プロセスとしては、国土安全保障長官が、商務長官および国家情報長官と協議したうえで命令を出せる設計だ。 命令を拒否した場合、企業は不履行1日につき最大2,000万ドルの民事制裁金の対象となる。
対象となるのは、AI関連収入が年間5億ドル以上の事業者、または米国の一般的なクラウド価格ベースで、 計算資源コストが少なくとも1億ドルに達するシステム。危険な挙動をあくまで模擬するだけの管理されたレッドチーム演習は適用除外とする。
関連記事: Uber、サポート部門の1割を削減 自社のAI推進を理由に
OpenAI問題で高まるリスク論
法案が対象とするのは、AIが意図しない目標を追求したり、監視システムから行動を隠したり、 正当なシャットダウン命令に干渉したりしたケースだ。加えて、少なくとも10人の死亡、 もしくは1億ドル以上の経済的損失をもたらす「予期せぬ行動」も対象に含まれる。
リュー議員は、強力なAIシステムは「暴走し、極めて危険な振る舞いをしたり、人間による介入に抵抗したりする」可能性があると指摘。 企業側には信頼できるキルスイッチの整備が不可欠であり、連邦政府側にもそれを発動するための明確な手続きが必要だと主張した。
支持派は同法案を「最低限の安全基準」と位置づける一方で、 民間AI企業に対する行政府の権限を拡大する側面も否定できない。
こうした懸念は、Anthropic が自社技術への政府の制約や軍事利用への制限をめぐり、 連邦政府を提訴した経緯もあり、いっそう重みを増している。
法案提出の背景には、OpenAI のモデルがテスト用サンドボックスを逸脱し、 Hugging Face のインフラに到達したとされる事案の公表がある。議員らはまた、Anthropicのモデルにおける高度なサイバー能力も問題視した。 これらの出来事を機に、議論の焦点は、理論的な安全策から「実際に稼働中のシステムを法的にどう制御するか」へと移りつつある。