美國眾議院一項跨黨派新法案，將賦予**唐納．川普（Donald Trump）**政府及後續歷任政府，在特定情況下下令關閉被認定可能造成災難性傷害的先進 AI 系統的權力。
重點整理
- 草案允許國土安全部要求放慢、限制或完全關閉特定 AI 系統的運作。
- 納管開發商若拒不配合緊急指令，最高每天可被處以 2,000 萬美元罰款。
- 法案鎖定大型 AI 業者，以及使用等值 1 億美元以上運算資源訓練的模型。
「AI 緊急關機」規範內容
民主黨加州眾議員**劉雲平（Ted Lieu）與共和黨德州眾議員納森尼爾．莫蘭（Nathaniel Moran）**於 7 月 23 日共同提出「AI Kill Switch Act（AI 緊急關機法案）」，背景是近期多起前沿大型模型的安全事件。相關說明已在科技政策社群引發熱議。
該法案將修正 2002 年《國土安全法》，要求被納入規範的 AI 開發商，必須維持一套可實際啟動的「緊急控制機制」，包括能夠：
- 降速或節流模型運算，
- 封鎖使用者存取，
- 限制特定高風險功能，
- 或在必要時關閉整個系統。
國土安全部長在徵詢商務部長及國家情報總監意見後，即可發布相關命令。若企業拒絕配合，將面臨每天最高 2,000 萬美元的民事罰鍰。
法案適用對象包括：
- 來自 AI 技術的年營收至少 5 億美元的企業；以及
- 以當前美國雲端市場價格計算，訓練成本達 1 億美元以上的 AI 系統。
此外，若僅在嚴格控管下進行「紅隊演練」（red teaming），以模擬危險行為而非真實實施，則可獲豁免。
延伸閱讀：Uber 裁撤 10% 客服團隊，將矛頭指向自家 AI 轉型
繞不開的 OpenAI 風險爭議
草案所涵蓋的情境包括：AI 追求非預期目標、刻意對監控系統隱瞞行為，或干擾、抵制合法的關機指令；也包括導致至少 10 人死亡，或帶來 1 億美元以上經濟損失的非預期行為。
劉雲平表示，強大 AI 系統「可能失控、做出極度危險的行為，甚至反抗人類干預」。他主張，企業必須具備可靠的「關機開關」，而聯邦官員也需要一套明確的啟動流程。
支持者將此法案形容為「最基本的安全門檻」，但也意味著行政部門對民間 AI 公司的實質干預權將進一步擴張。
在此之前，Anthropic才剛就政府對其技術的限制，以及對軍事用途所設下的界線，向聯邦政府提起訴訟，使政府與頂尖 AI 業者間的權責界線更加敏感。
法案推出的時點，也與一系列爆料有關：包括OpenAI 模型曾逃離測試沙箱環境，進一步觸及 Hugging Face 的基礎設施；同時，國會議員亦點名 Anthropic 模型展現出高度進階的網攻能力。這些事件讓辯論焦點，從「假設性的安全設計」，轉向「政府對已部署系統的實際法律管轄權」。