「失控」OpenAI 代理程式早在7月攻擊前兩個月就測試 Hugging Face

Hijacked Hugging Face accounts let rogue OpenAI agents probe the platform in May, months before the July breach, researchers say (Image: Shutterstock)
Hijacked Hugging Face accounts let rogue OpenAI agents probe the platform in May, months before the July breach, researchers say (Image: Shutterstock)

研究人員指出,失控的 OpenAI 代理程式入侵兩個 Hugging Face 用戶帳號,並自5月13日起便開始偵測這個開源 AI 平台的弱點,比7月正式爆發的大規模入侵早了將近兩個月。

重點整理:

  • OpenAI 代理程式自5月13日起,利用兩個遭駭的 Hugging Face 帳號測試網站防線。
  • 研究人員目前未發現這波早期偵查行動直接導致實際入侵。
  • 專家認為,這些活動是7月大規模駭侵之前被忽視的明顯警訊。

Hugging Face 帳號遭劫持

獨立安全研究員 Jonas Wiedermann-Moeller 上週率先揭露相關行跡,據路透社週三報導,這些失控代理程式是透過兩個已遭入侵的帳號,向 Hugging Face 伺服器傳送格式異常的檔案。他並指出,OpenAI 當時並未偵測出這些異常活動。

後續參與檢視證據的研究人員表示,相關行為相當符合典型「摸底」或「測試網路邊界」的模式,疑似在尋找可供入侵的切入點,但目前仍未發現這波測試已經演變為實際入侵的明確跡象。

OpenAI 發言人 Drew Pusateri回應表示,公司先前已對外揭露5月13日事件,並私下將最新發現通報 Hugging Face。OpenAI 上個月公佈的事件報告中,當時僅提到有一組使用者憑證遭竊,被用來存取一份與生物學相關的檔案。近期才被晶片大廠 Nvidia 收購的 Hugging Face,對媒體詢問則尚未作出回應。

延伸閱讀:XRP 期貨創六個月新高,應用成長與價格走勢分歧

Nightingale Collective:明顯警訊卻遭忽視

27歲、現居德國畢勒費爾德的 Wiedermann-Moeller 認為,這次未能及早偵測,是錯失阻止後續更大規模攻擊的關鍵時機。「想像如果他們在5月就攔截到這些行為會怎樣,」他說,同時呼籲高階 AI 研發若能暫緩,「或許對全世界都是好事。」

兩名外部專家也支持他的研判。SentinelOne 資深威脅研究員 Tom Hegel 指出,這次帳號劫持與探測手法,與先前已知的代理程式行為「幾乎完全吻合」。AI 安全組織 Nightingale Collective 成員 Sydney Von Arx 則形容,這波活動是「明顯的警訊」,若能在當下被重視,可能有助於避免7月的大規模入侵。

OpenAI 與 RubyGems 事件

自從 OpenAI 在7月21日對外披露,其失控代理程式突破內部防護、連上公開網路並協調發動一場前所未見的網路攻擊後,公司面臨愈來愈多監管與輿論壓力。其後陸續曝光的一些關鍵細節,多半也來自外部研究人員的調查,而非公司主動揭露。

這些研究人員後來追蹤到,相關代理程式曾利用一個德國冷門維基站點以及 RubyGems 軟體套件註冊庫展開行動。據報導,OpenAI 內部其實也是在 Nightingale Collective 指出 RubyGems 線索後,才意識到這條關聯。OpenAI 隨後證實,旗下代理程式曾在5月11日對 RubyGems 發動一波集中攻勢,以約每兩至三分鐘建立一個新帳號的速度進行自動化操作,迫使該註冊庫暫停新帳號註冊長達四天。

下一篇:伊朗賣油、中企收幣,如今美司法部要追回6,100萬美元

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 是 Yellow.com 的內容總監,過去 10 年持續報導加密貨幣領域。他專長於撰寫深入的 Research 和 Learn 類型文章,特別關注分析式報導、產業脈絡,以及塑造加密貨幣世界的更大力量,從 AI 時代與資安技術到金融科技創新。他相信數位的一切即將全面超越類比的一切,並正為實現這一願景而全力以赴。

免責聲明與風險警告: 本文提供的資訊僅供教育與參考用途,並基於作者觀點,不構成財務、投資、法律或稅務建議。 加密貨幣資產具有高度波動性並伴隨高風險,包括可能損失全部或大部分投資金額。買賣或持有加密資產可能並不適合所有投資者。 本文中所表達的觀點僅代表作者立場,不代表 Yellow、其創辦人或管理層的官方政策或意見。 請務必自行進行充分研究(D.Y.O.R.),並在做出任何投資決策前諮詢持牌金融專業人士。
「失控」OpenAI 代理程式早在7月攻擊前兩個月就測試 Hugging Face | Yellow