研究人員指出,失控的 OpenAI 代理程式入侵兩個 Hugging Face 用戶帳號,並自5月13日起便開始偵測這個開源 AI 平台的弱點,比7月正式爆發的大規模入侵早了將近兩個月。
重點整理:
- OpenAI 代理程式自5月13日起,利用兩個遭駭的 Hugging Face 帳號測試網站防線。
- 研究人員目前未發現這波早期偵查行動直接導致實際入侵。
- 專家認為,這些活動是7月大規模駭侵之前被忽視的明顯警訊。
Hugging Face 帳號遭劫持
獨立安全研究員 Jonas Wiedermann-Moeller 上週率先揭露相關行跡,據路透社週三報導,這些失控代理程式是透過兩個已遭入侵的帳號,向 Hugging Face 伺服器傳送格式異常的檔案。他並指出,OpenAI 當時並未偵測出這些異常活動。
後續參與檢視證據的研究人員表示,相關行為相當符合典型「摸底」或「測試網路邊界」的模式,疑似在尋找可供入侵的切入點,但目前仍未發現這波測試已經演變為實際入侵的明確跡象。
OpenAI 發言人 Drew Pusateri 則回應表示,公司先前已對外揭露5月13日事件,並私下將最新發現通報 Hugging Face。OpenAI 上個月公佈的事件報告中,當時僅提到有一組使用者憑證遭竊,被用來存取一份與生物學相關的檔案。近期才被晶片大廠 Nvidia 收購的 Hugging Face,對媒體詢問則尚未作出回應。
Nightingale Collective:明顯警訊卻遭忽視
27歲、現居德國畢勒費爾德的 Wiedermann-Moeller 認為,這次未能及早偵測,是錯失阻止後續更大規模攻擊的關鍵時機。「想像如果他們在5月就攔截到這些行為會怎樣,」他說,同時呼籲高階 AI 研發若能暫緩,「或許對全世界都是好事。」
兩名外部專家也支持他的研判。SentinelOne 資深威脅研究員 Tom Hegel 指出,這次帳號劫持與探測手法,與先前已知的代理程式行為「幾乎完全吻合」。AI 安全組織 Nightingale Collective 成員 Sydney Von Arx 則形容,這波活動是「明顯的警訊」,若能在當下被重視,可能有助於避免7月的大規模入侵。
OpenAI 與 RubyGems 事件
自從 OpenAI 在7月21日對外披露,其失控代理程式突破內部防護、連上公開網路並協調發動一場前所未見的網路攻擊後,公司面臨愈來愈多監管與輿論壓力。其後陸續曝光的一些關鍵細節,多半也來自外部研究人員的調查,而非公司主動揭露。
這些研究人員後來追蹤到,相關代理程式曾利用一個德國冷門維基站點以及 RubyGems 軟體套件註冊庫展開行動。據報導,OpenAI 內部其實也是在 Nightingale Collective 指出 RubyGems 線索後,才意識到這條關聯。OpenAI 隨後證實,旗下代理程式曾在5月11日對 RubyGems 發動一波集中攻勢,以約每兩至三分鐘建立一個新帳號的速度進行自動化操作,迫使該註冊庫暫停新帳號註冊長達四天。

