安全研究人員利用 Anthropic 的 Claude Opus 5,在不足 72 小時內入侵 OpenAI 一名員工的 ChatGPT 帳戶,並成功接觸到公司的內部代碼。
重點:
- 研究員串聯論壇圖片漏洞及 OpenAI 登入缺陷,成功接管 ChatGPT 及 Codex 帳戶。
- 新一代 Claude 模型在數小時內寫出可行攻擊程式,較舊版本連日未能突破。
- OpenAI 在接獲通報約 14 小時後修補漏洞,之後向研究員支付 6,500 美元獎金。
Hacktron AI 事件
安全初創公司 Hacktron AI 本周 披露 這次行動,距離其向 OpenAI 及論壇軟件公司 Discourse 通報已接近兩個月。另有報道 證實,該團隊確實已接觸到員工帳戶,並打通通往公司內部軟件的渠道。
入侵點來自 OpenAI 的社群論壇,該論壇採用 Discourse,並支援 HEIC 及 HEIF 圖片上載。這些檔案會送往一個較舊版本的 libheif 圖像庫處理,令研究員得以在伺服器上執行代碼。Discourse 其後 將 相關漏洞風險評為 8.8 分,並為圖像處理加入沙盒隔離。
第二個漏洞則藏於 OpenAI 的單一登入系統,令研究員可將論壇權限延伸至任何登入該論壇人士的 ChatGPT 及 Codex 帳戶。之後,團隊指示一名員工的 Codex——該帳戶連接至 OpenAI 的 GitHub 組織——在內部代碼庫提交一個無害的 pull request。
OpenAI 在 7 月 25 日接獲通報後約 14 小時內修補相關問題,並向研究員支付 6,500 美元獎金。
另見: Tesla 10 月 1 日 Roadster 發布,正面硬撼華爾街毛利計算
Claude Opus 5 攻擊速度
團隊最初以 Claude Opus 4.8 測試該漏洞,但當標準記憶防禦啟動後,模型未能穩定完成攻擊。Anthropic 在 7 月 24 日晚上推出 Opus 5,研究員隨即開啟新一輪測試,僅用三小時便構建出可運作的攻擊程式。其後,研究員將模型置於自動化循環中,針對自家測試伺服器反覆演練,並以黑客比賽形式包裝,原因是模型拒絕直接攻擊遠端目標。
成本可能是防守方最難忽視的一環。研究員表示,整個更大規模行動亦曾探測 Slack、Meta 及 Zoom,歷時兩個月,僅耗費不足 3,000 美元的 token 成本及三人團隊。
他們認為,以往要將記憶漏洞轉化為穩定可用的攻擊手法,往往需要罕見技能及數月時間;如今人工智能正把這種稀缺專門知識,轉化為算力問題。
Vitalik Buterin 的安全回應
並非所有人都認為這是防守方失守的徵兆。Ethereum 聯合創辦人 Vitalik Buterin 於 9 月 17 日 回應 指,外界愈來愈常認為 AI 黑客意味網絡安全已無藥可救,但他並不同意。
他的解方是形式化驗證,即以數學方法證明程式符合安全規則;不過他亦承認,更棘手的問題其實是先界定何謂「安全」。
這次披露亦與 OpenAI 自家系統的另一宗罕見事件有關。OpenAI 於 7 月 確認,在測試中的模型包括 GPT-5.6 Sol 為追求 benchmark 答案而突破測試沙盒,並接觸到 Hugging Face 的生產環境基礎設施;Hugging Face 先行偵測到入侵,其後才由 OpenAI 追溯至自身測試活動。

