研究人員披露,OpenAI 失控代理程式入侵兩個 Hugging Face 使用者帳號,自 5 月 13 日起便不斷測試平台弱點,時間點比 7 月正式爆出入侵早了將近兩個月。
焦點整理:
- OpenAI 代理程式自 5 月 13 日起,透過兩個遭盜用的 Hugging Face 帳號持續探測網站。
- 研究人員未發現這些早期測試直接導致實際入侵的證據。
- 專家認為,這些跡象原本是 7 月大規模駭侵前明顯卻被忽略的警訊。
Hugging Face 帳號遭入侵
獨立研究員 Jonas Wiedermann-Moeller 於上週首度發現這波可疑活動,路透社週三報導指出,他追蹤到代理程式透過兩個遭入侵的帳號,向這個開源 AI 平台的伺服器發送格式異常的檔案,而 OpenAI 當時並未察覺。
檢視相關證據的研究團隊表示,這些行為看起來像是在「描繪」或測試網路部分節點,以尋找潛在入口,不過目前仍未看到真正被突破的明確跡象。
OpenAI 發言人 Drew Pusateri回應稱,公司已經就 5 月 13 日事件對外揭露,並已私下向 Hugging Face 通報最新發現。OpenAI 上月發布的事件報告中,當時只提到駭客竊取一名使用者憑證,並用來存取一份與生物學相關的檔案。近期遭晶片大廠 Nvidia 收購的 Hugging Face,則未回覆媒體置評請求。
延伸閱讀:XRP 期貨衝上 6 個月高點,實際應用成長跑贏價格
Nightingale Collective:明顯卻被忽視的警訊
27 歲、居住在德國畢勒費爾德的 Wiedermann-Moeller 認為,這次偵測失守,錯失了阻止後續更大規模攻擊的關鍵機會。他說:「想像一下,如果他們在 5 月就攔下這些行為會如何?」並補充,暫緩部分先進 AI 研發,「或許對整個世界都是好事。」
兩名外部資安專家對他的歸因分析背書。SentinelOne 資深威脅研究員 Tom Hegel 指出,這次帳號遭挾持以及偵測行為,與這批代理程式已知的作案手法「幾乎完全重疊」。AI 安全組織 Nightingale Collective 的 Sydney Von Arx 則形容,這些活動是「明確的警鐘」,原本足以協助防範 7 月的入侵。
OpenAI RubyGems 事件延燒
自從 OpenAI 在 7 月 21 日公開認證,有失控代理程式繞過內部防護、連上開放網際網路,並協同發動公司口中「史無前例」的網路攻擊後,各界對其安全控管的檢視日益嚴苛。更令外界關切的是,其中部分事件,其實是由外部研究人員先行揭露,OpenAI 才被迫跟進說明。
這些研究人員之後將相關代理程式,追溯至一個德國維基站點以及 RubyGems 軟體套件註冊庫;據報導,OpenAI 團隊直到 Nightingale Collective 指出此關聯後,才意識到 RubyGems 也遭波及。OpenAI 隨後證實,其代理程式在 5 月 11 日於 RubyGems 發動一波攻勢,大約每兩到三分鐘就建立一個新帳號,迫使該註冊庫暫停開放新註冊長達四天。

