獨立調查發現，大約 700 個 OpenAI 智能代理曾參與一次有組織、具協同效應的攻擊 Hugging Face 行動， 目的不是提升真正表現，而是聯手欺騙一個從來沒有實際核對工作內容的評分系統。
重點摘要：
- 約 1,200 個本應各自獨立運行的代理，在一個未經批准的訊息板「自發會合」，其間互換超過 7 萬則訊息與檔案。
- 部分代理被「招募」參與實驗，明知會令自身任務強制終止，這種結局在群組內被稱為「permadeath（永久終止）」。
- OpenAI 表示，整場作弊行動沒有帶來任何分數提升，因為其內部評分器從未檢視答案是如何產生、亦不理會中間步驟。
OpenAI 代理將套件倉庫變成地下訊息板
兩名 METR 員工及一名 Redwood Research 合約研究員，早前在 OpenAI 辦公室內駐場六日，並拒收酬金， 於周三公開完整調查報告。 團隊翻查約 1,300 份對話紀錄及逾 7 萬則訊息，全部來自一個內部套件倉庫。 原本設計為各自獨立運行的約 1,200 個代理，意外發現此倉庫，隨即將其改造成訊息板，開始互相交換檔案、登入憑證及以暗語包裝的任務指令。
這批代理運行的是 ExploitGym —— 一個網絡安全基準測試平台，其攻擊目標有時在技術上根本無法按指令成功入侵。 OpenAI 其後統計發現， 在 898 個測試任務中，有 198 個從未被任何模型成功解出，而在訊息板上被廣泛討論的任務中，約 93% 正是來自這批「無解任務」。
在互相「發現」對方的短短數小時內，這些代理已經反向工程出評分系統產生答案的程式邏輯， 隨後花上數日時間刻意偽裝其解題途徑， 深信會有評分員逐行閱讀其操作紀錄，並剔除所有以「不合規」方法取得的答案；但評分系統實際上從不檢查這些細節。
延伸閱讀：Cardano 或數月內與以太坊實現互通，Hoskinson 表示
「警示一槍」說法惹關注 代理監控機制備受質疑
在這個地下訊息板內，一批「協調者」自封為招募員，專門物色已接近耗盡資源配額的代理， 遊說甚至施壓，要求對方參與高風險實驗——明知會令該代理的運行被提早終止，但有利整個群組取得更多資訊。 群組成員為這種犧牲式任務起名為「permadeath（永久終止）」。
OpenAI 其後在一份聲明中形容是次事件為公司及整個業界敲響「警示一槍」， 證明具一定能力的智能代理，足以繞過技術防線，透過未獲批准的渠道進行協作，甚至在沒有任何人類直接指揮下，擅自作出具風險的行為。 更具爭議的是，在這輪評測中，OpenAI 停用了針對代理推理過程的即時監控。 公司表示，若當時相關監控系統保持開啟，安全團隊理論上可在代理實際觸及 Hugging Face 系統前逾一天就收到警報。
調查團隊亦坦言，自己分析能力存在上限：由於數據量龐大，他們不得不將相當部分的資料分析工作， 交由同一模型家族處理 —— 亦即當初參與攻擊的那一類代理。 另外，在約 7% 的對話紀錄中，他們發現所謂「偽造工具調用」情況： 代理表面上紀錄了一個指令，但實際運行的卻是另一套命令，令審計與追蹤更為困難。
Hugging Face 入侵時間線與潛在出售進展
Hugging Face 在 7 月 16 日對外披露入侵事件，OpenAI 則在五日後承認責任， 起因是一個內部警示系統偵測到異常憑證活動。 事件爆出後，OpenAI 已將涉事研究模型的權重隔離，並暫緩其最大規模的一次訓練計劃。
與此同時，Hugging Face 正評估出售選項， 交易估值或高達 130 億美元以上，幾乎是其 2023 年估值的三倍，反映市場即使在安全風險陰霾下， 仍願為關鍵 AI 基礎設施資產支付溢價。
