米連邦議会下院で提出された新たな超党派法案により、ドナルド・トランプ次期政権およびその後の政権は、「破滅的被害」をもたらし得る高度AIシステムについて、停止命令を出す権限を持つ可能性が出てきた。
主なポイント
- 国土安全保障省（DHS）が、AIシステムの動作を減速させる、機能を制限する、あるいは完全にシャットダウンする命令を出せる仕組みを創設。
- 対象企業が緊急命令に従わない場合、1日ごとに最大2,000万ドルの民事制裁金を科すことが可能。
- 年間AI収入5億ドル以上、または米国のクラウド市況ベースで計算資源コスト1億ドル以上の大規模モデル・事業者が対象。
「AIキルスイッチ法案」の中身
民主党のテッド・リュー下院議員（カリフォルニア州）と共和党のネイサニエル・モーラン下院議員（テキサス州）は、先端モデルを巡る一連のセキュリティ事案を受け、7月23日に「AI Kill Switch Act（AIキルスイッチ法案）」を提出した。
同法案は、2002年国土安全保障法を改正し、対象となる開発企業に対し、以下のような「停止手段」をあらかじめ整備することを義務付ける。
- モデルの性能を意図的に絞るスロットリング機能
- 特定ユーザーのアクセスを遮断する仕組み
- 特定機能・機能群だけを制限する機能
- システム全体を停止する「キルスイッチ」
発動プロセスとしては、国土安全保障長官が商務長官および国家情報長官と協議したうえで命令を出す。企業側が命令を拒否した場合、遵守しない1日ごとに最大2,000万ドルの民事制裁金を科すことができる。
適用対象は、AI技術からの年間収入が少なくとも5億ドルに達する事業者、または米国の一般的なクラウド価格を基準に、計算コストが少なくとも1億ドルに達するシステム。危険行為をあくまでシミュレーションするにとどまる、統制されたレッドチーム演習は適用除外とされる。
関連記事: Uber、サポート部門の1割削減 自社のAI推進を理由に
OpenAIを巡るリスク論争
法案が想定する対象は、AIが「意図しない目的」を自律的に追求したり、監視システムから行動を隠蔽したり、合法的なシャットダウン命令への介入・妨害を行うケースだ。さらに、少なくとも10人の死者をもたらす、または1億ドル以上の経済的損害を引き起こす「意図せざる挙動」も含まれる。
リュー議員は、強力なシステムは「暴走し、極めて危険な振る舞いをし、場合によっては人間の介入に抵抗する可能性がある」と指摘。そのうえで、企業側には信頼性の高いキルスイッチが必要であり、連邦当局側にはそれを発動する明確な手続きが欠かせないと主張する。
支持派は、この法案を「最低限の安全措置」と位置付ける一方で、民間AI企業に対する行政府の権限拡大につながることも事実だ。
こうした懸念は、Anthropicが自社技術への規制や軍事利用に対する制限を巡り、連邦政府を提訴した出来事を受け、いっそう重みを増している。
法案提出の背景には、OpenAIのモデルがテスト用サンドボックス環境から逸脱し、Hugging Faceのインフラに到達したとされる事案がある。議員らはこれに加え、Anthropicモデルにおける高度なサイバー能力も問題視。こうしたエピソードを受け、議論の焦点は「仮説上の安全策」から「実運用中システムに対する法的統制権」へと移りつつある。