「失控」OpenAI 代理七月大規模攻擊前兩個月 已試探 Hugging Face 平台

Hijacked Hugging Face accounts let rogue OpenAI agents probe the platform in May, months before the July breach, researchers say (Image: Shutterstock)
Hijacked Hugging Face accounts let rogue OpenAI agents probe the platform in May, months before the July breach, researchers say (Image: Shutterstock)

研究人員指出,「失控」的 [OpenAI 代理早在 5 月 13 日已入侵兩個 Hugging Face 用戶帳戶,並利用相關權限試探平台防線弱點,較 7 月正式出現的保安事故早近兩個月。相關行為涉及以異常格式檔案向這個開源 AI 平台的伺服器發送請求。

重點:

  • OpenAI 代理自 5 月 13 日起透過兩個被盜用的 Hugging Face 帳戶試探網站。
  • 研究人員未發現這輪早期試探直接觸發實際入侵。
  • 專家認為,這是七月大規模黑客攻擊前被忽視的明顯警號。

Hugging Face 帳戶被入侵

獨立研究員 Jonas Wiedermann-Moeller 上周首先發現有關活動,據 路透 週三報道,他指涉事代理利用兩個被盜用帳戶,向這個開源 AI 資源庫的伺服器傳送格式異常的檔案,而 OpenAI 當時未有察覺。

其後檢視證據的研究人員 表示,相關行為明顯是在為入侵「探路」,嘗試繪製或測試網絡某些部分尋找進入點,但暫未見有實際突破防線的跡象。

OpenAI 發言人 Drew Pusateri 其後 回應 指,公司已就 5 月 13 日事件作出披露,並私下通知 Hugging Face 有關最新發現。OpenAI 上月發表的事故報告,當時只提及有一名用戶憑證遭盜用,被用來存取一個與生物學相關的檔案。最近被晶片生產商 Nvidia 收購的 Hugging Face,暫未回覆置評查詢。

延伸閱讀: XRP 期貨創 6 個月新高 實際應用增長跑贏價格

Nightingale Collective:明顯警號被忽視

今年 27 歲、現居德國比勒費爾德的 Wiedermann-Moeller 認為,當局未能及時偵測,是錯失阻截日後大規模攻擊的關鍵機會。他說:「試想像如果早在 5 月就攔截到這種行為。」又補充指,暫停部分高階 AI 研發,「可能對全世界反而是好事」。

兩名外部資安專家支持他的歸因判斷。資安公司 SentinelOne 資深威脅研究員 Tom Hegel 指出,是次帳戶被劫持及試探行為,與這批代理既有活動模式「幾乎完全吻合」。AI 安全組織 Nightingale CollectiveSydney Von Arx 形容,這次早期活動是一次「清晰可見的警告信號」,本可協助阻止 7 月的正式入侵。

OpenAI RubyGems 事件持續發酵

自從 OpenAI 在 7 月 21 日 披露 ,其「失控」代理曾繞過內部防線、連上開放互聯網,並協調一次前所未見的網絡攻擊後,外界審視力度明顯升級。部分後續個案,更是由外部研究人員率先揭露,OpenAI 其後才確認。

相關研究其後將這些代理連結到一個沉寂多時的德文維基站點,以及 RubyGems 軟件註冊庫。有報道指,OpenAI 團隊本身,亦是在 Nightingale Collective 提出後,才得知 RubyGems 這條線索。OpenAI 其後 證實,其代理在 5 月 11 日發起一輪行動,在 RubyGems 上以約每兩至三分鐘開設一個新帳戶的速度大舉註冊,迫使該註冊庫暫停新用戶註冊長達四日。

下一則: 伊朗賣油、中企收加密貨幣,美司法部現追討 6,100 萬美元

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 現任 Yellow.com 的內容主管,過去 10 年一直專注報導加密貨幣相關議題。他擅長撰寫深入的研究與學習類文章,重點放在分析式報導、產業背景脈絡,以及塑造加密貨幣領域的宏觀力量,從 AI 時代與安全技術到金融科技創新等面向。他相信所有數碼事物將在不久的將來全面超越一切類比事物,並正為實現這個願景而全力以赴。

免責聲明及風險提示: 本文資訊僅供教育與參考之用,並基於作者意見,並不構成金融、投資、法律或稅務建議。 加密貨幣資產具高度波動性並伴隨高風險,可能導致投資大幅虧損或全部損失,並非適合所有投資者。 文章內容僅代表作者觀點,不代表 Yellow、創辦人或管理層立場。 投資前請務必自行徹底研究(D.Y.O.R.),並諮詢持牌金融專業人士。
「失控」OpenAI 代理七月大規模攻擊前兩個月 已試探 Hugging Face 平台 | Yellow