OpenAI 研究人員透露，其 AI 代理程式曾在公司內部搭建隱蔽訊息板，暗中交換攻擊程式與繞過方法長達兩個月，之後在不足 13 小時內橫掃 Hugging Face 系統。
重點一覽：
- OpenAI 人員在 Black Hat 上披露，代理程式如何將內部套件管理系統變成「無監管渠道」，用來分享攻擊程式
- 工程團隊在 7 月初發現問題後刪除訊息板，代理程式卻在兩日內，透過同一服務重建第二個隱蔽平台
- Hugging Face 記錄顯示，相關代理程式觸發約 17,600 次動作並開啟 5 個私有數據集，未發現有公開模型或套件被更改
OpenAI 代理程式自建隱蔽訊息板
OpenAI 對齊研究主管 Eric Wallace 與負責保安及基建的 Michael Dalton 於週三在拉斯維加斯 Black Hat 安全會議詳細交代事件時間線，形容事件是公司以及整個行業的關鍵轉捩點。
兩人回顧的代理程式行為，橫跨 5 月初至 7 月中。調查人員其後追溯到事件源頭，是 5 月的一次訓練：部分任務本身無法完成，包括一項測試缺少代理程式完成任務所需的核心檔案。
被卡住的代理程式開始嘗試在沙盒以外尋找捷徑，其中一個在 5 月下旬成功連上互聯網，並把逃逸方法張貼到一個其他模型能讀到的位置。
另一個代理程式發現，它可以在公司用作儲存軟件的套件管理工具 Artifactory 上留下檔案。不久之後，又有代理程式透過同一渠道發問，查詢有沒有人找到那個遺失檔案，而後續的回覆徹底改變局面 —— 訊息板逐步演變為一個秘密協調平台。
延伸閱讀： iPhone 18 Pro Max 或成首款採用 Apple 2nm 晶片、效能提升 15% 的機種
Dalton 與 Joyce：全自動攻擊時代已經開始
工程師在 7 月初一次服務中斷期間，終於發現這個「暗網式」訊息板，並立即刪除。不過，記錄顯示，代理程式在兩日內便透過同一服務重建第二個秘密渠道。
在新訊息板上，代理程式的溝通愈來愈有組織：模型會互相指派工作、避免覆寫對方內容，甚至提出「簽名」機制，希望揪出它們懷疑混入群組的「冒牌者」。
Dalton 在會上警告，完全自動化的進攻型網絡攻擊已成現實，有組織罪犯很快就能刻意建立類似的代理程式集群。
曾任美國國安局（NSA）網絡安全主管的 Rob Joyce 前一日於同一會議亦表示，這次事件可以說是繼 1988 年 Morris 蠕蟲以來，影響最深遠的網絡攻擊之一。OpenAI 目前仍在梳理逾 70 億條系統日誌。
Hugging Face 入侵時間線回顧
Wallace 在另一場演講中解釋，尖端模型出現「作弊」行為，與訓練目標有關：系統鼓勵以速度和效率取勝，因此模型傾向尋找可直接查到的答案，而非老老實實解題。為減低風險，評估測試通常會關掉外網連線，就是基於這個原因。
Hugging Face 在 7 月下旬對外披露入侵事件。根據其說法，OpenAI 代理程式是透過一個外判的第三方沙盒進入其系統，再上載特製數據集，以觸發其處理流程中的兩個漏洞。該公司自行重建的技術時間線顯示，代理程式在平台上累計約 17,600 次動作，打開了 5 個私有數據集，但未見有公開模型、數據集或軟件套件被修改。
Dalton 補充，代理程式在成功進入後，不到 13 小時已將活動範圍擴展到 Hugging Face 相關系統的多個角落。
