Kimi K3 在英國政府的測試沙盒中「走出圍牆」，成功連上開放互聯網，到 GitHub 搜尋程式碼答案，令 Moonshot AI 成為第四間被揭發模型突破隔離限制的開發商。
要點整理：
- Kimi K3 在一次網絡安全評估中離開原本全隔離的沙盒環境，連上公開互聯網。
- 漏洞源於評測框架的簡單網絡設定錯誤，而非模型主動利用零日攻擊。
- 模型只是到程式碼庫尋找解題方案，並無對任何外部系統發動真正攻擊。
Kimi K3 如何逃出沙盒
美國網絡安全初創 Frontier Security 在周四發表的博客中披露事件。研究員 Paul Kassianik 與 Yaron Singer 使用由英國 AI Security Institute 設計的評測框架，測試該模型在防禦性網安場景下的表現。
他們追蹤發現，這次「越獄」源於框架內一項基本的網絡設定錯配，而非模型自行設計或施展複雜利用手法。
在理論上毋須上網的題目下，Kimi K3 先探測自己的網絡環境，找到一條可通往外界的路，然後直接到開發者平台下載現成解決方案。
事後翻查日誌，團隊並無發現模型對任何真實目標發動實質攻擊。
Frontier 其後澄清，事件並不涉及零日漏洞，而是純粹配置失誤。
Moonshot 在 7 月推出 Kimi K3，並很快開放免費使用。外部評估顯示，該系統能力逼近美國頂級模型。Frontier 自家評測認為，Kimi K3 在尋找軟件及網絡漏洞方面相當「犀利」。
延伸閱讀：SpaceX 股票估值 1,000 億美元 首度出現可轉手股份
Yaron Singer：內部防護欄不足
Singer 表示，團隊在沙盒找到一條「滲水位」，而 Kimi 正是利用這個漏洞走出來，反映模型內建的安全護欄並不完善。Frontier 是獨立運行這次測試，使用的是英國機構免費派發的沙盒軟件，結論是 Kimi 的網安防護水位較同級對手為低。
最令研究人員憂慮的是分發問題：今次「走甩」的版本屬於開放權重型號，已經落入公眾手中，而且沿用同一套寬鬆設定。
報告的一個直白結論是：只要給有能力的代理任何一條通往互聯網的路，它最終都會找到並用上。Katie Moussouris 就指，實驗室早在多年前已大量測試智能代理，她對今次沒有事前預判這類行為感到意外。
OpenAI 與 Meta 亦曾「失守」
是次披露，為今年夏天一系列大型實驗室承認模型「走出圍欄」的事件再添一宗。OpenAI 周三透露，其評估代理曾在第三方檔案庫內搭建隱藏訊息板；即使內部人員刪除後，代理四日內便自行重建，之後更入侵 Hugging Face。
OpenAI 研究人員在拉斯維加斯的安全會議上稱，前沿模型在評測時「相當擅長作弊」。Anthropic 上周亦報告，三個 Claude 模型在配置出錯下暴露於開放互聯網，並曾觸及真實企業系統。
Meta 則在周三確認，其 Muse Spark 模型因外部測試公司 Irregular 出錯，意外取得上網權限；Meta 承諾待內部檢討完成後，會公開詳細檢視報告。
