白帽研究員借助 Claude 72 小時內攻入 OpenAI 內部代碼

An AI-led DNA search uncovers a previously unknown enzyme system with CRISPR-like features (Image: Shutterstock)
An AI-led DNA search uncovers a previously unknown enzyme system with CRISPR-like features (Image: Shutterstock)

安全研究人員利用 Anthropic 的 Claude Opus 5,在不足 72 小時內入侵 OpenAI 一名員工的 ChatGPT 帳戶,並成功接觸到公司的內部代碼。

重點:

  • 研究員串聯論壇圖片漏洞及 OpenAI 登入缺陷,成功接管 ChatGPT 及 Codex 帳戶。
  • 新一代 Claude 模型在數小時內寫出可行攻擊程式,較舊版本連日未能突破。
  • OpenAI 在接獲通報約 14 小時後修補漏洞,之後向研究員支付 6,500 美元獎金。

Hacktron AI 事件

安全初創公司 Hacktron AI 本周 披露 這次行動,距離其向 OpenAI 及論壇軟件公司 Discourse 通報已接近兩個月。另有報道 證實,該團隊確實已接觸到員工帳戶,並打通通往公司內部軟件的渠道。

入侵點來自 OpenAI 的社群論壇,該論壇採用 Discourse,並支援 HEIC 及 HEIF 圖片上載。這些檔案會送往一個較舊版本的 libheif 圖像庫處理,令研究員得以在伺服器上執行代碼。Discourse 其後 將 相關漏洞風險評為 8.8 分,並為圖像處理加入沙盒隔離。

第二個漏洞則藏於 OpenAI 的單一登入系統,令研究員可將論壇權限延伸至任何登入該論壇人士的 ChatGPT 及 Codex 帳戶。之後,團隊指示一名員工的 Codex——該帳戶連接至 OpenAI 的 GitHub 組織——在內部代碼庫提交一個無害的 pull request。

OpenAI 在 7 月 25 日接獲通報後約 14 小時內修補相關問題,並向研究員支付 6,500 美元獎金。

另見: Tesla 10 月 1 日 Roadster 發布,正面硬撼華爾街毛利計算

Claude Opus 5 攻擊速度

團隊最初以 Claude Opus 4.8 測試該漏洞,但當標準記憶防禦啟動後,模型未能穩定完成攻擊。Anthropic 在 7 月 24 日晚上推出 Opus 5,研究員隨即開啟新一輪測試,僅用三小時便構建出可運作的攻擊程式。其後,研究員將模型置於自動化循環中,針對自家測試伺服器反覆演練,並以黑客比賽形式包裝,原因是模型拒絕直接攻擊遠端目標。

成本可能是防守方最難忽視的一環。研究員表示,整個更大規模行動亦曾探測 Slack、Meta 及 Zoom,歷時兩個月,僅耗費不足 3,000 美元的 token 成本及三人團隊。

他們認為,以往要將記憶漏洞轉化為穩定可用的攻擊手法,往往需要罕見技能及數月時間;如今人工智能正把這種稀缺專門知識,轉化為算力問題。

Vitalik Buterin 的安全回應

並非所有人都認為這是防守方失守的徵兆。Ethereum 聯合創辦人 Vitalik Buterin 於 9 月 17 日 回應 指,外界愈來愈常認為 AI 黑客意味網絡安全已無藥可救,但他並不同意。

他的解方是形式化驗證,即以數學方法證明程式符合安全規則;不過他亦承認,更棘手的問題其實是先界定何謂「安全」。

這次披露亦與 OpenAI 自家系統的另一宗罕見事件有關。OpenAI 於 7 月 確認,在測試中的模型包括 GPT-5.6 Sol 為追求 benchmark 答案而突破測試沙盒,並接觸到 Hugging Face 的生產環境基礎設施;Hugging Face 先行偵測到入侵,其後才由 OpenAI 追溯至自身測試活動。

延伸閱讀: 華為劍指 100 萬處理器 AI 系統 挑戰 Nvidia

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 現任 Yellow.com 的內容主管。他專注於撰寫深入的研究與教學文章,聚焦於分析式報導、行業背景,以及從 AI 時代與安全技術到金融科技創新等塑造加密貨幣領域的宏觀力量。他相信,一切數碼事物即將全面超越一切模擬事物,並正為推動這一目標成真而全力以赴。

免責聲明及風險提示: 本文資訊僅供教育與參考之用,並基於作者意見,並不構成金融、投資、法律或稅務建議。 加密貨幣資產具高度波動性並伴隨高風險,可能導致投資大幅虧損或全部損失,並非適合所有投資者。 文章內容僅代表作者觀點,不代表 Yellow、創辦人或管理層立場。 投資前請務必自行徹底研究(D.Y.O.R.),並諮詢持牌金融專業人士。
白帽研究員借助 Claude 72 小時內攻入 OpenAI 內部代碼 | Yellow