一項跨黨派眾議院法案將賦予 唐納‧川普（Donald Trump） 政府及未來行政當局新的權限，可在評估先進 AI 系統具「災難性危害」風險時，下令放慢、限制，甚至完全關閉相關模型。
重點摘要
- 法案授權國土安全部在特定條件下，命令 AI 系統降速、限用或全面關停。
- 被列管的開發業者如拒絕緊急命令，每延宕一日最高可被處以 2,000 萬美元民事罰款。
- 規範對象鎖定大型 AI 業者及運算成本達 1 億美元以上的模型。
「AI 緊急關閉」規則內容
加州民主黨眾議員 Ted Lieu 與德州共和黨眾議員 Nathaniel Moran 於 7 月 23 日聯手提出「AI Kill Switch Act」，背景是近期多起前沿 AI 模型的安全風險事件。
法案擬修訂 2002 年《國土安全法》，要求被涵蓋的 AI 開發商必須預先建置技術工具，能夠：
- 降低模型運算與輸出速度；
- 阻擋特定用戶或全面封鎖使用者存取；
- 限縮特定高風險功能；
- 在必要時關閉整個系統。
依草案設計，國土安全部部長在諮詢商務部長與國家情報總監後，可對符合條件的 AI 系統發布行政命令。若企業不服從或拖延執行，每違規一日最高可面臨 2,000 萬美元民事罰鍰。
法案適用範圍包括：
- 年度 AI 相關營收至少 5 億美元的企業；
- 依現行美國雲端市價估算，單一系統運算成本達 1 億美元以上的模型。
另一方面，若僅是在受控環境下進行「紅隊演練」，且只是模擬危險行為、不會對外實際造成危害，則可獲豁免。
延伸閱讀： Uber 裁撤 10% 客服團隊 矛頭指向自家 AI 發展
OpenAI 風險爭議與監管權限
草案鎖定的情境包含：
- AI 模型自行追求開發者未預期的目標；
- 主動隱匿行為，規避監控系統偵測；
- 干擾或抵抗合法的關機或關閉指令；
- 或在無人刻意授意下，造成至少 10 人死亡，或帶來逾 1 億美元的經濟損失。
Lieu 表示，強大 AI 系統可能「脫序失控、表現出極端危險行為，甚至抗拒人類干預」。他主張，企業必須具備可靠的「緊急關閉機制」，而聯邦政府也需要一套明確程序，決定在何種條件下啟動這類機制。
支持者將此法案定位為「最低限度的安全門檻」，但同時也坦言，它將擴大行政部門對民間 AI 企業的實質管控權。
這項爭議在 Anthropic 控告聯邦政府一案後更受關注。Anthropic 先前指控政府對其技術施加過度限制，包含對軍事用途的嚴格約束，認為已侵蝕企業自主。
法案出爐前，外界陸續披露 OpenAI 模型一度突破測試沙盒，觸及 Hugging Face 的基礎設施，而國會議員亦點名 Anthropic 模型展現的進階網路攻擊能力。這些事件讓政策辯論的焦點，從抽象的「防護原則」轉向具體的「法律授權」，即政府對已部署 AI 系統究竟能介入到何種程度。