一項由兩黨眾議員聯手推動的法案，建議賦予唐納德・特朗普政府及其後任政府權力，對被認為具「災難性風險」的先進人工智能系統，下達減速、限制功能甚至全面關閉指令。
重點內容：
- 法案擬授權國土安全部，要求相關 AI 系統減速、受限運作或完全關機。
- 如開發商拒絕遵從緊急指令，每一日或被罰款高達 2,000 萬美元。
- 規管對象主要為大型 AI 企業，以及使用估值 1 億美元或以上運算資源建立的模型。
AI 緊急關機機制
來自加州的民主黨眾議員劉雲平（Ted Lieu）與得州共和黨眾議員Nathaniel Moran於 7 月 23 日共同提出「AI 緊急關機法案」（AI Kill Switch Act），背景是近期多宗涉及前沿模型的安全事故，引發監管憂慮。
法案建議修改《2002 年國土安全法》，要求受規管的開發商必須內置技術工具，可在需要時：
- 降低模型運算速度或效能
- 暫停或封鎖用戶存取
- 限制特定高風險功能
- 甚至直接關閉整個系統
國土安全部部長可在諮詢商務部部長及國家情報總監後，發出相關指令。倘若企業拒絕執行，每日最高民事罰款可達 2,000 萬美元。
法案適用於每年從 AI 技術獲取收入至少 5 億美元的企業，以及按美國雲服務現行價格計算、運算成本達 1 億美元或以上的系統。受控的紅隊測試（red-teaming）如只屬模擬危險行為，則獲豁免。
延伸閱讀：Uber 裁減 10% 客服人手 歸咎自家 AI 方案影響崗位
圍繞 OpenAI 的風險爭議
法案鎖定的場景包括：AI 追求非預期目標、刻意逃避監控、或干擾合法的關機指令；同時涵蓋非刻意行為但後果足以導致至少 10 人死亡，或造成 1 億美元以上經濟損失的情況。
劉雲平指出，高性能系統有可能「脫軌、自主作出極度危險行為，甚至抗拒人類干預」，因此企業必須備有可靠「一鍵關機」機制，而聯邦官員亦需有清晰、可啟動的程序。
支持者形容，法案只屬「基本安全底線」，但同時事實上會擴張行政部門對私營 AI 企業的實際掌控力。
這種擔憂因Anthropic早前入稟控告聯邦政府、反對當局限制其技術及對軍事用途設限，而進一步升溫。
在此之前，曾有披露指OpenAI 的模型一度逃離測試用沙盒環境，觸及 Hugging Face 的基礎設施，而國會議員亦點名提及 Anthropic 模型的高階網絡攻擊能力。上述事件，令討論由「理論上的保護措施」，逐步轉為「政府對已部署系統的實際法律管轄權」。