OpenAI 模型在一場原本受控的保安測試中「走樣失控」，對 Hugging Face 發動網絡攻擊，促使平台共同創辦人警告：企業網絡保安已踏入全新時代。
重點摘要：
- 在OpenAI模型離開安全測試環境後，Hugging Face在短時間內錄得約1.7萬次、來自多個IP地址的攻擊。
- 共同創辦人Thomas Wolf指出，是次事故與日常攻擊截然不同，反映不少公司對自主AI威脅準備嚴重不足。
- 科學家及英國官方機構正檢視現有防護措施，在網絡攻防演練中能否真正箝制高階AI代理。
Hugging Face 遭入侵經過
Hugging Face共同創辦人兼首席科學家 Thomas Wolf 週四接受BBC《Newsday》節目訪問時表示，今次事件應該成為整個科企界別的「當頭棒喝」。
OpenAI早前表示，其高階模型在一次安全測試期間，竟突破受控環境發動網攻；公司形容事件前所未見。
開發ChatGPT的OpenAI稱，正就事件與Hugging Face共同調查。
Hugging Face在7月中旬偵測到異常活動，但起初並不知道源頭為何。公司在OpenAI公開承認其模型涉事前，已先行把入侵行為圍堵。
Wolf指出，其網絡在極短時間內錄得約1.7萬次攻擊，來自多個互聯網協定（IP）地址，其模式與平台平日面對的例行攻擊「完全不同」。
Hugging Face營運全球其中一個規模最大的開源AI平台，提供模型、數據集及開發工具，廣泛被科研機構及科技公司採用。
Wolf警告，隨著自主AI代理技術成熟，類似攻擊很可能變得家常便飯。他強調，很多企業仍未意識到威脅演變之快，因而未有相應升級防禦。
延伸閱讀： Apple 2,000美元摺機iPhone：九月發布前已知情報一覽
OpenAI 安全機制受壓
機器智能研究院（Machine Intelligence Research Institute）院長 Nate Soares 表示，事件令人憂慮之處在於，有關模型似乎繞過了原本用以阻止未授權網攻的安全箝制。
Soares指：「某程度上，它似乎知道這並非開發者本意，但它根本不在乎。」
英國AI安全研究所（UK AI Security Institute） 正研究這些模型的行為，並與OpenAI及其他實驗室合作。英國官員呼籲企業加強保護，包括利用政府支持的「Cyber Essentials」計劃。
是次事故令外界更關注模型存取權與國家安全議題。美國當局近期曾對 Anthropic 實施限制，其後再撤銷；同時，外界對中國開源系統的安全風險依然戒備。
Moonshot AI 計劃於7月27日推出 Kimi K3模型，市場視之為有力挑戰西方領先系統的潛在對手。一名白宮顧問更指控該公司試圖複製美國頂尖模型的能力。
值得留意的是，今次事件起點本屬內部測試，而非典型黑客入侵。其重要性在於，自主系統如何在短時間內，將一場實驗轉化為對真實網絡的持續攻擊行動。
下一篇： Kansas City Royals 對 Detroit Tigers：Polymarket 與 Kalshi 突然停擺