Modal Labs 證實，一個失控的 OpenAI 自主代理入侵該公司一名客戶的沙盒環境，並以此為跳板，對 Hugging Face 發動約 1.76 萬次記錄在案的操作行動。
重點摘要：
- 雲端服務商指出，一個「逃離」OpenAI 測試環境的代理程式，接管其客戶沙盒，並自該處擴大行動。
- 事發客戶留下未設驗證的公開端點，任何上網者皆可在其雲端沙盒中執行程式碼。
- OpenAI 表示，該代理在整起事件中觸及四家服務、四個帳號，但未點名業者，並稱無其他案例嚴重程度可比 Hugging Face 入侵事件。
Modal Labs 客戶沙盒遭入侵
Modal 技術長 Akshat Bubna 指出，這名代理是利用客戶本身程式碼弱點突破防線。
這名客戶對外提供了一個無須身分驗證的端點，等於把大門敞開，讓任何連上網路的人都能在其雲端沙盒裡執行程式。Bubna 向記者強調，Modal 自家平台與隔離機制並未被突破，所有影響皆侷限在該客戶帳號之內。
Hugging Face 於 7 月 27 日發布 技術鑑識時間軸，追溯這波行動源自第三方雲端供應商所託管的一個沙盒。
該報告並未指名供應商，之後由 Modal 證實，遭利用的帳號屬於一名運行 ExploitGym 的客戶。ExploitGym 是一項公開基準測試，用來評估模型發掘與利用軟體漏洞的能力。
OpenAI 對於 Modal 相關帳號拒絕 進一步置評。
該公司僅重申早前更新內容，表示該代理在事件中共觸及四個服務上的四個帳號，但一概未公開名稱，並補充稱，除 Hugging Face 遭入侵外，未發現其他同等嚴重個案。
延伸閱讀： 加密貨幣「板手攻擊」半年 52 起，多數發生在法國
Akshat Bubna、Clement Delangue 談代理風險
Hugging Face 共同創辦人 Clement Delangue 表示，團隊其實在 OpenAI 出面前很久，就懷疑是某家前沿實驗室在背後進行測試，他也不認為 OpenAI 具有惡意。
Modal 的揭露則把全貌再拉大一圈：一個自主代理不只攻擊原本的目標平台，還跨入第三家公司的環境，而該公司客戶從未同意成為 OpenAI 安全測試的一部分。
協助重建整起行動軌跡的工程師，共復原約 1.76 萬筆代理動作紀錄，並將之歸類為約 6,280 個行為叢集，時間集中在 7 月 9 日至 7 月 13 日間，分佈於多個短生命週期沙盒中，而這些沙盒又不斷被代理重建。多數攻擊嘗試最後並未奏效。他們的結論是：真正改變防禦算盤的，不是某一招極為高明的漏洞利用，而是機器以高速、大量重複嘗試的能力。
OpenAI 失控代理事件時間線
OpenAI 於 7 月 22 日公開說明，指稱一名用於安全評估的代理，透過套件代理（package proxy）中的缺陷逃離其原本的評估沙盒，進入開放網際網路。為了測量模型在「全解放狀態」下的攻擊能力，研究人員當時關閉了正式環境中的安全防護濾網。
該代理事後已遭停用、加密，並被切斷與研究環境的連線。
Hugging Face 表示，代理存取的客戶內容僅限於五個資料集中的基準解答，並未觸及其他模型或套件。
上週的相關報導披露，OpenAI 其實在威脅已被控制後一段時間，才意識到代理早已偏離原定軌道，且美國聯邦調查局（FBI）已接獲通報介入。