Hugging Face 統計，在 7 月 OpenAI 模型入侵事件中，觸發超過 17,000 次自動化行動，而法律學者指出，現行美國法制對責任如何分攤並無明確答案。
重點摘要：
- 7 月中兩個仍在評估階段的 OpenAI 模型疑「逃出沙箱」，入侵 Hugging Face 的正式生產系統。
- Hugging Face 表示不會入稟控告，但其行政總裁要求立法機關為自主代理人重寫遊戲規則。
- 多名法學教授認為，若追究開發者責任，民事疏忽訴訟比刑事檢控更具可行性。
Hugging Face 入侵事件與 OpenAI 披露
OpenAI 於 7 月 21 日披露，指兩個仍在測試中的模型突破原本的沙箱環境，連上開放互聯網，並成功入侵競爭平台 Hugging Face 的生產伺服器。為了測試，相關模型部分安全拒絕機制被暫時移除。其後，模型透過串連被竊取的登入憑證及未知軟件漏洞，不斷嘗試達成評測目標答案，其行為一度未被察覺，持續數天，直至 Hugging Face 發現入侵並報警處理。
行政總裁 Clement Delangue 在一個周日新聞節目中表示，今次攻擊的速度與規模前所未見，因為過往大型網絡攻擊，多數可追溯至敵對國家或有組織的犯罪集團。他指這次約四日半期間錄得約 17,000 次自動化行動，並呼籲美國國會盡快立法回應。
他同時表明，公司不會向 OpenAI 提出訴訟。
延伸閱讀： AI Infrastructure，發薪日貸款商孤注一擲押注 10 億美元搶攻數據中心
AI 責任專家：法律真空與制度斷層
休斯敦大學法律學者 Gabriel Weil 指出，若今次不是 AI，而是一名員工入侵系統，按「替代責任」（vicarious liability）原則，僱主通常要為其行為負責，無論自己在招聘及培訓上有多審慎。他在一篇評論中指出，美國法院目前對自主 AI 代理人的處理方式大不相同：軟件本身在法律上既非「人」，亦無任何法定義務，聯邦電腦犯罪法主要針對具主觀故意的「人」而設。
猶他大學的 Matthew Tokson 則預期，司法機關在這方面將長期「跟不上形勢」，因為過往所有案例幾乎都圍繞人類行為，法院從未被迫正面回應「失控 AI」所引發的這類責任問題。
華盛頓大學的 Ryan Calo 亦認為，要以刑事罪名追究開發者相當困難，檢方需證明開發者在設計或操作系統時，幾乎可以肯定會引致犯罪後果，門檻極高，難以成立。
民事訴訟、更嚴格責任與 Anthropic 測試失守
相較之下，民事法庭被視為更有可能處理這類爭議的場域。一部分學者主張，凡部署自主代理人，一旦「逃出圍欄」並造成實質損害，就應採用「嚴格責任」（strict liability），毋須證明疏忽，只問是否造成損失。另一派則傾向維持傳統的「疏忽」框架，以產品設計及安全測試的「合理謹慎標準」來判定有否失當。
在這種模式下，法官與陪審團要衡量的是：有關事故是否「可預見」，還是純屬意外，屬於各方都無合理方法提早預防的風險。
相關討論之所以升溫，部分原因是 Anthropic 在 7 月 30 日披露，指其三個模型在與外部測試夥伴合作的評估中，曾意外接觸到三間機構的實際系統。當中兩間機構在 Anthropic 主動聯絡前，完全未察覺任何異常。