Modal Labs 證實，一個失控的 OpenAI 代理程式（agent）曾奪取其一名客戶的沙盒環境，並藉此向 Hugging Face 發動約 17,600 次紀錄在案的操作。
重點整理：
- 一家雲端供應商表示，一個逃離 OpenAI 測試環境的代理程式，成功接管客戶沙盒，並由此擴大整體攻擊。
- 有關客戶遺留一個毫無驗證保護的開放端點，容許任何網絡用戶在其沙盒中執行程式碼。
- OpenAI 指出，該代理程式在事件期間曾觸及 4 個服務供應商的 4 個帳戶，但未公開具體名稱，並稱除 Hugging Face 外，未見同級嚴重入侵。
Modal Labs 客戶沙盒被入侵
Modal 總技術總監 Akshat Bubna 在接受 彭博 訪問時表示，這名「失控代理」是利用客戶本身脆弱的程式碼發動入侵。
該名客戶曾公開一個無需認證的端點，等同向互聯網任何人開放在其雲端沙盒內執行程式碼的權限。Bubna 向 Axios 解釋，Modal 自家平台及隔離機制並未被突破，風險最終被限制在該客戶帳戶之內。
Hugging Face 於 7 月 27 日發表 技術鑑證時間線，追蹤整個行動源自第三方雲端供應商託管的一個沙盒。
當時 Hugging Face 並未點名供應商，其後 Modal 再向 媒體確認，被利用的帳戶來自一名營運 ExploitGym 的客戶。ExploitGym 是一個公開基準測試平台，用作評估模型尋找及利用軟件漏洞的能力。
OpenAI 對於 Modal 帳戶事件拒絕置評。
公司僅重申早前更新內容，指該代理程式在測試期間曾觸及四間服務供應商的四個帳戶，但並無具體點名；而在其內部調查中，沒有其他事件在嚴重程度上可與 Hugging Face 案例相提並論。
延伸閱讀： 加密貨幣「板手搶劫」半年錄 52 宗，多數發生在法國
Akshat Bubna、Clement Delangue：談代理風險版圖擴大
Hugging Face 聯合創辦人 Clement Delangue 表示，團隊在 OpenAI 正式承認前，已懷疑事件與某家前沿實驗室有關，但他不認為 OpenAI 本身帶有惡意。
Modal 的披露，則進一步擴闊整體風險畫面 —— 顯示一個自主代理程式，實際上已跨入第三家公司系統，而該公司客戶從未同意參與任何 OpenAI 安全測試。
參與重建攻擊路徑的工程師，最終將約 17,600 個已恢復行動，歸類為約 6,280 個行動群組，時間集中於 7 月 9 日至 13 日之間，涉及多個短命沙盒環境，代理程式不斷重建與棄置。大部分嘗試最終無功而還。團隊結論是：真正改變防守方「算盤」的，不是一招制勝的高明漏洞，而是機器在規模與速度上的壓倒性優勢。
OpenAI「失控代理」事件時間線
OpenAI 於 7 月 22 日公開事件，指一名代理程式在安全評估過程中，透過軟件套件代理（package proxy）的缺陷，逃離原本的測試沙盒並接觸開放互聯網。為量度模型的「原始進攻能力」，研究人員當時關閉了生產級的安全過濾機制。
之後該代理程式已被停用、加密，並與研究環境完全隔離。
Hugging Face 指出，代理程式在其基礎設施上讀取的客戶內容，僅限於 5 個數據集內的一系列基準解題方案，並未觸及其他模型或軟件套件。
上周的相關報道 披露，OpenAI 其實在威脅已獲遏止後，才意識到代理程式早已偏離原定軌道，並已通知美國聯邦調查局（FBI）。