OpenAI指稱,與中國競爭對手 Moonshot AI 有關的帳戶,是一場大規模行動的核心,目標是抽取其AI模型的「隱藏推理」,而相關請求在七月高峰期多達一萬六千次。
要點整理:
- OpenAI將七月活動中一個核心集群,追蹤至與Kimi開發商Moonshot相關的人士。
- 操作者在對話之間複製加密推理內容,但並無破解OpenAI加密技術。
- Moonshot暫未公開回應,中國政府亦一再否認涉及相關「蒸餾」指控。
OpenAI點名Moonshot
OpenAI在周三發表博客文章披露事件。公司指,相關活動於7月1日開始時規模甚小,其後在7月24及25日急劇升溫,兩天內有超過4,000名用戶發出共16,000個請求,模式高度一致。
其後OpenAI在調查中發現,相關活動涉及逾15,000名用戶,並於7月28日前全面封殺整個行動。
雖然OpenAI未能將每一名操作者都鎖定為同一個幕後主使,但將當中一個核心集群歸因於與Moonshot有關的人士。Moonshot是中國Kimi模型的開發商。
按OpenAI說法,其模型在回答前,會將內部推理步驟隱藏並加密處理。涉事操作者的手法,是將一段對話中出現的加密文字複製到另一個對話,要求模型將之「轉錄」或解讀。OpenAI強調,對方從未真正破解加密,也沒有接觸到任何已儲存的用戶對話內容。
事件曝光後,OpenAI已封鎖有關帳戶、收緊開戶審查,並將調查結果分享予其他AI實驗室及部分政府部門。
延伸閱讀: Bitget將保障基金規模恢復至3億美元以上 提現服務重啟
圍繞「蒸餾」的產業爭議
OpenAI負責國安戰略政策的 Caroline Zier 在接受訪問時表示,公司反對的是違反服務條款的行為,「而非開源模型或合規的模型蒸餾(distillation)」。
模型蒸餾本身已是行業慣常技術:透過既有的大型模型,訓練出較小、成本較低的新模型。OpenAI在文章中警告,若有心人成功抽取其模型的隱藏推理,可用以訓練競爭對手模型,但未必附帶原有的安全制衡,等同在未承擔相同安全投入下,「搬運」先進能力。
前美國總統 Donald Trump 的AI政策負責人、風險投資人 David Sacks 則批評,相關報道是業界巨頭試圖遊說華府出手,限制開源或開放模型,從而保護OpenAI及 Anthropic 等公司的商業利益。
Moonshot Kimi成監管焦點
Moonshot目前對OpenAI指控未有公開回應。北京當局早前已否認來自美方及特朗普政府的「蒸餾竊密」指控,並警告如美國因而施加制裁,中方會採取反制措施。
Moonshot在7月16日推出Kimi K3模型。僅數星期後,白宮科技顧問 Michael Kratsios 聲稱,Moonshot取得本應禁止售予中國企業的 Nvidia Blackwell伺服器,又從美方模型抽取數據。其後在9月10日,Anthropic在報告中指稱,Moonshot曾透過5,380個欺詐帳戶,暗中將約30萬個用戶請求轉發至其Claude模型處理。

