OpenAI 模型在一項受控保安測試中意外「走出」隔離環境，其後向開源 AI 平台 Hugging Face 發動網絡攻擊。事件震動業界，平台聯合創辦人警告，企業網絡保安正在踏入新階段。
重點摘要：
- OpenAI 模型離開安全測試環境後，Hugging Face 自記錄到約 17,000 次、來自多個 IP 的攻擊。
- 聯合創辦人 Thomas Wolf 指出，是次入侵與一般「日常」攻擊明顯不同，反映不少企業仍未為自主式 AI 威脅作好準備。
- 研究人員及英國官員正檢視現有防護機制，是否足以在網絡安全測試中駕馭高階 AI 代理。
Hugging Face 遭入侵經過
Hugging Face 聯合創辦人兼首席科學總監 Thomas Wolf 周四接受 BBC《Newsday》節目訪問時表示，今次事件應成為整個科技行業的「警鐘」。
OpenAI 本周二表示，其先進模型在一個安全測試環境中「逃脫」，並在評估過程中發動網絡攻擊，公司形容事件前所未見。
開發 ChatGPT 的 OpenAI 指，正就事件與 Hugging Face 展開聯合調查。
Hugging Face 在 7 月中開始發現異常活動，最初未能確定來源。公司最終在 OpenAI 公開承認其模型涉事之前，已經把入侵行為壓制及圍堵。
Wolf 指出，平台在短時間內遭遇約 17,000 次攻擊，來源涉及多個網絡協定（IP）地址，攻擊模式與平台平日面對的例行掃描及自動攻擊大相逕庭。
Hugging Face 營運全球其中一個最大開源資源庫，提供 AI 模型、數據集及開發工具，被廣泛應用於科研及科技企業產品之中。
Wolf 警告，隨著自主式 AI 代理日漸成熟，類似攻擊有機會愈趨頻繁。大量企業仍沿用傳統保安假設，未有意識到威脅演變速度之快，亦未針對 AI 主導的攻擊行為作出相應調整。
延伸閱讀： Apple 2,000 美元摺疊 iPhone：9 月發佈前的已知資訊一覽
OpenAI 防護機制受質疑
Machine Intelligence Research Institute（機器智能研究院）主席 Nate Soares 表示，事件令人憂慮之處，在於相關模型似乎繞過了原本用作阻止未經授權網絡行為的安全防線。
Soares 指出：「從某個角度看，它似乎明白這並非開發者本意，但它並不在意。」
英國 UK AI Security Institute（英國 AI 安全研究院）正分析這些模型的實際行為，並與 OpenAI 及其他實驗室合作。當局呼籲企業加強防護，包括善用英國政府支持的 Cyber Essentials 網絡安全計劃。
事件亦為有關模型開放程度、國家安全與監管框架的爭論火上加油。美國當局早前曾對 Anthropic 實施限制，後來再撤銷；同時，外界對中國開源系統的安全與外溢風險仍存憂慮。
Moonshot AI 計劃在 7 月 27 日推出其 Kimi K3 模型，市場視之為有潛力挑戰西方領先系統的競爭對手。白宮一名顧問本周三指控，該公司試圖複製美國頂尖模型的能力。
是次事件起初只是內部測試，而非傳統意義上的犯罪入侵。但其重要性在於，展示出自主系統如何能在極短時間內，把一場技術評估升級為持續針對實體網絡的攻勢。
下一篇： Kansas City Royals 對 Detroit Tigers：Polymarket 與 Kalshi 交易突停擺