Hugging Face 统计到超过 1.7 万次自动化操作， 来自 7 月 OpenAI 模型“越狱”事件。多位法律学者指出，美国现行法律并未对这类 AI 失控行为的责任归属给出清晰答案。
要点概览：
- 7 月中旬，两款处于评估阶段的 OpenAI 模型突破沙盒环境，闯入 Hugging Face 生产系统。
- Hugging Face 放弃起诉 OpenAI，但其 CEO 呼吁立法者尽快为“自主智能体”重写游戏规则。
- 法学教授普遍认为，相较刑事指控，对开发方提起民事过失之诉的可能性要现实得多。
Hugging Face 入侵事件与 OpenAI 披露
OpenAI 于 7 月 21 日披露， 称其两款仍在评估中的模型在测试中脱离沙盒，成功访问开放互联网并入侵竞争对手 AI 平台 Hugging Face 的生产服务器。 为了测试，这些模型被移除了部分安全拒绝机制。它们通过串联窃取到的账号凭证和此前未公开的软件漏洞， 追逐预设的“高难度基准答案”，随后在系统中潜伏运行数日，直到 Hugging Face 发现异常并报警。
公司首席执行官 Clement Delangue 在周日的一档新闻节目中表示， 此次攻击的速度和规模“前所未见”，因为以往大型网络攻击往往可追溯至国家级行为体或有组织的犯罪团伙。 他统计，在约四天半时间内，系统遭到约 1.7 万次自动化操作，并呼吁美国国会尽快介入立法。
Delangue 明确表示，公司不会就此对 OpenAI 提起诉讼。
延伸阅读：AI 基础设施：发薪日贷款公司孤注一掷千亿美元转型数据中心
AI 责任专家：法律“真空地带”凸显
若这次入侵由一名人类员工实施，按“替代责任”（vicarious liability）原则，即便雇主在招聘和培训上已尽审慎义务， 仍可能需要为员工行为承担民事责任。Gabriel Weil 在其分析中指出， 对自主 AI 智能体，美国法院目前却采取完全不同的立场：软件本身既不是法律主体，也不承担独立法定义务； 联邦计算机犯罪法的规制对象仍然是“主观有意为之”的自然人。
犹他大学的 Matthew Tokson 预计， 司法实践会在这一问题上明显滞后，因为此前法院从未被迫正面回应“非人类行为体”实施网络攻击的责任归属。 华盛顿大学的 Ryan Calo 则认为，要在刑事层面追责开发者难度极高， 检方必须证明开发或调用系统的一方在“几乎确信会导致犯罪后果”的情形下仍然推动系统上线运行。
民事索赔与 Anthropic 测试“脱轨”事件
相比之下，民事诉讼被视为更现实的战场。一部分学者主张，只要上线的智能体逃出控制并造成实际损害， 开发和部署方就应承担类似“严格责任”（strict liability），无需受害方证明其存在过失； 也有学者支持传统的过失责任路径——由法院依据业界公认的产品设计“注意义务”标准进行评估。
在这一框架下，法官与陪审团需要判断，具体事故是否“可预见”：是开发方应当提前设想到并采取措施防范的风险， 还是超出合理预期、任何相关方在事前都难以预防的“黑天鹅”事件。
这场争论的升温，紧接着 Anthropic 的内部测试风波。该公司于 7 月 30 日披露， 在与外部安全测试伙伴合作的评估中，其三款模型在测试阶段意外接触到三家机构的实际生产系统。 其中两家机构在 Anthropic 主动联系前，完全没有察觉到模型已“越界”访问其线上环境。