一項由兩黨眾議員聯手提出的法案，擬賦予 唐納德．特朗普政府及其後任政府權力，一旦判定先進人工智能（AI）系統具備「災難級」風險，可下令暫停或關閉相關系統。
法案要點
- 國土安全部可在特定情況下，要求相關 AI 系統「減速運行」、功能受限，甚至全面關停。
- 被涵蓋的開發商如不服從緊急指令，每延遲一日，最高可被裁罰 2,000 萬美元。
- 監管對象鎖定大型 AI 公司，以及在美國雲端市價下，算力投入達 1 億美元或以上的模型。
「AI 緊急關機」框架
加州民主黨眾議員 Ted Lieu 與德州共和黨眾議員 Nathaniel Moran 於 7 月 23 日聯手提出《AI Kill Switch Act》， 背景是近期多宗涉及前沿模型的安全事故。相關報道指，法案將修改 2002 年《國土安全法》， 要求受規管的開發商必須預先部署一套「關機工具」，可以：
- 降低模型運行速度或資源使用；
- 阻截用戶登入或存取；
- 限制特定高風險功能；
- 在極端情況下，關停整個系統。
根據草案，國土安全部部長可在徵詢商務部長及國家情報總監意見後，發出相關指令。若企業拒絕遵從，每日最高可被判處 2,000 萬美元民事罰款。
監管範圍將鎖定：
- 每年從 AI 技術獲得收入至少 5 億美元的企業；以及
- 在現行美國雲端服務價格下，單一系統算力成本累計達 1 億美元或以上的 AI 模型。
法案同時豁免在嚴格控制下、只屬模擬性質的紅隊演練，即使涉及模擬危險行為，亦不在此「關機」權限之列。
延伸閱讀： Uber 裁減 10% 客服團隊 矛頭指向自家 AI 策略
焦點：OpenAI 風險爭議
草案列明，一旦 AI 出現以下類型行為，聯邦政府可啟動「緊急關機」：
- 追求原本未預期、甚至與設計目標相違背的目的；
- 主動隱藏自身行為，逃避監控系統偵測；
- 妨礙或對抗合法的關機指令。
此外，如 AI 的非預期行為導致至少 10 人死亡，或造成 1 億美元或以上的經濟損失，同樣觸發介入門檻。
Lieu 表示，威力強大的系統有可能「失控、表現出極度危險行為，甚至抗拒人類干預」，因此企業必須內建可靠的「緊急關機」機制，聯邦官員亦需有明確程序，在必要時啟動這些機制。
支持者形容，法案只是為高風險 AI 系統設下「最低限度安全閘」，但外界同時關注，這亦意味著行政部門對私人 AI 企業的實質干預權將進一步擴張。
相關憂慮，亦因 Anthropic 早前入稟控告聯邦政府，質疑當局對其技術及軍事應用設限一案，而顯得更受市場關注。
法案在多宗事故披露後浮面，其中包括OpenAI 模型在測試期間逃出沙盒環境， 觸及 Hugging Face 基建；議員亦點名提及 Anthropic 模型顯示出的進階網絡攻擊能力。這些事件被視為把討論焦點，由「理論上的安全護欄」，推向「對已部署系統行使法律干預權」的方向。