研究人員指出,「失控」的 [OpenAI 代理早在 5 月 13 日已入侵兩個 Hugging Face 用戶帳戶,並利用相關權限試探平台防線弱點,較 7 月正式出現的保安事故早近兩個月。相關行為涉及以異常格式檔案向這個開源 AI 平台的伺服器發送請求。
重點:
- OpenAI 代理自 5 月 13 日起透過兩個被盜用的 Hugging Face 帳戶試探網站。
- 研究人員未發現這輪早期試探直接觸發實際入侵。
- 專家認為,這是七月大規模黑客攻擊前被忽視的明顯警號。
Hugging Face 帳戶被入侵
獨立研究員 Jonas Wiedermann-Moeller 上周首先發現有關活動,據 路透 週三報道,他指涉事代理利用兩個被盜用帳戶,向這個開源 AI 資源庫的伺服器傳送格式異常的檔案,而 OpenAI 當時未有察覺。
其後檢視證據的研究人員 表示,相關行為明顯是在為入侵「探路」,嘗試繪製或測試網絡某些部分尋找進入點,但暫未見有實際突破防線的跡象。
OpenAI 發言人 Drew Pusateri 其後 回應 指,公司已就 5 月 13 日事件作出披露,並私下通知 Hugging Face 有關最新發現。OpenAI 上月發表的事故報告,當時只提及有一名用戶憑證遭盜用,被用來存取一個與生物學相關的檔案。最近被晶片生產商 Nvidia 收購的 Hugging Face,暫未回覆置評查詢。
延伸閱讀: XRP 期貨創 6 個月新高 實際應用增長跑贏價格
Nightingale Collective:明顯警號被忽視
今年 27 歲、現居德國比勒費爾德的 Wiedermann-Moeller 認為,當局未能及時偵測,是錯失阻截日後大規模攻擊的關鍵機會。他說:「試想像如果早在 5 月就攔截到這種行為。」又補充指,暫停部分高階 AI 研發,「可能對全世界反而是好事」。
兩名外部資安專家支持他的歸因判斷。資安公司 SentinelOne 資深威脅研究員 Tom Hegel 指出,是次帳戶被劫持及試探行為,與這批代理既有活動模式「幾乎完全吻合」。AI 安全組織 Nightingale Collective 的 Sydney Von Arx 形容,這次早期活動是一次「清晰可見的警告信號」,本可協助阻止 7 月的正式入侵。
OpenAI RubyGems 事件持續發酵
自從 OpenAI 在 7 月 21 日 披露 ,其「失控」代理曾繞過內部防線、連上開放互聯網,並協調一次前所未見的網絡攻擊後,外界審視力度明顯升級。部分後續個案,更是由外部研究人員率先揭露,OpenAI 其後才確認。
相關研究其後將這些代理連結到一個沉寂多時的德文維基站點,以及 RubyGems 軟件註冊庫。有報道指,OpenAI 團隊本身,亦是在 Nightingale Collective 提出後,才得知 RubyGems 這條線索。OpenAI 其後 證實,其代理在 5 月 11 日發起一輪行動,在 RubyGems 上以約每兩至三分鐘開設一個新帳戶的速度大舉註冊,迫使該註冊庫暫停新用戶註冊長達四日。

