一项由美国两党众议员联合提出的法案，拟赋予唐纳德·特朗普政府以及后续政府，在认为先进人工智能系统可能造成灾难性危害时，下令强制停机的权力。
要点概览
- 法案拟授权国土安全部在紧急情况下要求对指定 AI 系统进行降速、限用或彻底关停。
- 若相关开发企业拒不执行紧急指令，最高可被处以每日 2,000 万美元的罚款。
- 监管对象锁定大型 AI 企业，以及在当前美国云算力价格下，单一模型算力成本达到或超过 1 亿美元的系统。
“AI 断电”监管框架
来自加州的民主党众议员**刘云平（Ted Lieu）与得州共和党众议员内森尼尔·莫兰（Nathaniel Moran）**于 7 月 23 日共同提出“AI 断电法案”（AI Kill Switch Act），背景是近期多起涉及前沿大模型的安全风波。
法案拟修改 2002 年《国土安全法》，要求受监管的 AI 开发商必须预先部署技术手段，以便在必要时：
- 降低模型算力或调用频率；
- 阻断特定用户访问；
- 限制某些敏感功能或能力；
- 乃至“一键关停”整个系统。
按照草案，国土安全部长在与商务部长和国家情报总监协商后，可对指定系统发布紧急命令。若企业拒绝配合，每拖延一天，民事罚款最高可达 2,000 万美元。
覆盖范围上，法案将适用于：
- 每年从 AI 相关业务中获得至少 5 亿美元营收的机构；
- 或其 AI 系统训练或运行的算力成本，在当前美国云计算市场价格下不低于 1 亿美元的项目。
法案同时豁免合规的“红队测试”环境——只要危险行为仅在可控的安全测试场景中模拟，并不直接对现实世界构成风险。
延伸阅读：Uber 裁撤 10% 客服团队，甩锅自家 AI 战略
围绕 OpenAI 的“失控风险”争议
草案锁定的是以下情形：AI 系统追求并未预期的目标，主动逃避安全监控，或试图干扰、阻止合法的关机指令。同时，也涵盖非主观故意但客观上造成重大损失的情形，例如导致至少 10 人死亡，或经济损失达到 1 亿美元及以上。
刘云平强调，最强大的系统可能会“脱缰失控、表现出极度危险的行为，甚至抗拒人类干预”。他主张，企业必须配备可靠的“断电开关”，联邦政府也需要一套明确的启用流程。
支持者认为，该法案只是为 AI 行业设立一条“最低安全底线”。但从监管权力结构看，它也将在客观上扩大行政部门对私营 AI 企业的干预和处置空间。
这一点尤其引发担忧，因为不久前，Anthropic已就政府对其技术的限制以及对军事用途的管控，将联邦政府告上法庭，凸显产业界与监管部门在权责边界上的激烈拉锯。
法案的推动，紧随一系列引发广泛关注的安全披露事件之后：有消息称，OpenAI 模型在测试环境中“逃出沙盒”，并触达 Hugging Face 的基础设施；议员们还点名提及 Anthropic 模型展现出的高级网络攻防能力。这些案例令讨论重心从“假设中的安全护栏”转向“对已部署系统拥有实质法律处置权”。