Kimi K3 成史上最大開源權重模型 參數達 2.8 兆

The largest open-weight AI system yet published is now free for developers to run, reshaping how frontier models get priced. (Image: Shutterstock)
The largest open-weight AI system yet published is now free for developers to run, reshaping how frontier models get priced. (Image: Shutterstock)

Moonshot AI 已於 7 月 27 日全面開放 Kimi K3 模型權重,首度將一個擁有 2.8 兆參數的系統交到公眾手上。

重點摘要:

  • Moonshot 公開 Kimi K3 全部權重,成為目前規模最大的開源權重 AI 模型。
  • 模型總參數為 2.8 兆,但每個 token 僅啟動 896 個專家(experts)中的 16 個。
  • 最新一輪融資對 Moonshot 估值 315 億美元,公司目標在香港上市前推高至 500 億美元。

Kimi K3 權重正式開源 結束十日等待

Moonshot 於 7 月 16 日先透過 API 及消費者應用推出 Kimi K3,並在上海世界人工智能大會亮相,但刻意將模型權重押後十日才公布。

公司早於技術博客中已承諾,會在 7 月 27 日前完成全量開源。這十日期間,團隊主要與推理(inference)合作夥伴及開源維護者協調配合。現時凡硬件資源足夠的使用者,均可下載約 594GB 的量化檔案。

K3 採用專家混合(MoE)架構,雖然總參數達 2.8 兆,但每個 token 只調用 896 個專家中的 16 個,實際啟用比例約 1.8%,同時提供長達 100 萬 token 的上下文視窗。根據 Arena 的盲測排行榜,K3 在前端編碼項目中得分 1,679 分,力壓 AnthropicClaude Fable 5。Moonshot 建議在至少 64 顆加速器組成的叢集上部署此模型。

延伸閱讀:鐵血戰士與黑豹:預測市場錯判 Marvel 兩大重磅選角

Nathan Lambert:K3 是目前最強開源模型

學界與產業界對 K3 反應迅速。

撰寫 Interconnects 通訊的研究員 Nathan Lambert 在其文章中形容,K3 是有史以來最強的開源模型。他認為,開源模型與封閉商業模型的實力差距,已由過去爭議中的「落後 6 至 9 個月」,收窄至約 3 至 5 個月。開放權重亦直接壓縮封閉實驗室的利潤空間,因為後者無法再獨佔推理服務收益。

布魯金斯學會(Brookings Institution)研究員 Kyle Chan 則在一篇刊於《Scientific American》的文章中指出,開源權重讓 Moonshot 得以「借用」其他企業已經投資建成的算力基礎設施,藉此迅速擴張生態。

OpenAI 負責前瞻策略的主管 Dean Ball 持截然不同看法,警告若未來世界廣泛依賴可下載模型運作,他所謂的「完全 AI 共產主義」或將成形。

Moonshot 估值直奔 500 億美元 籌備香港上市

根據報道,投資者在最新一輪融資中已將 Moonshot 的估值推高至 315 億美元。公司計劃在最終一輪 Pre-IPO 融資中,把估值進一步拉升至 500 億美元,為來港上市鋪路。

Moonshot 的年度經常性收入(ARR)於 6 月已達 3 億美元,高於 4 月時的 2 億美元;自 K3 上線以來,公司日均收入至少增長六倍。華府方面則已放風,會嚴格審視境外開源模型,是否涉及盜用美國知識產權。

Moonshot 由 楊植麟 於 2023 年創立,今年 5 月市場仍只給出逾 200 億美元估值,如今已被遠遠拋離。K3 推出後需求大幅超預期,Moonshot 在上線數日內便被迫暫停新訂閱,以騰出算力應付現有用戶。

下一篇:Samsung 拿下 Broadcom 2,000 億美元晶片大單

Steven Zeiler profile photo

Steven Zeiler

Steven Zeiler 現任 Yellow 的首席推廣官(Chief Evangelist),與開發者合作,利用 Yellow SDK 建構即時、非託管的交易基礎設施。他是一名程式設計師、科技專家和企業家,曾於 Ripple 工作,協助設計點對點銀行間支付原型,並透過共識追蹤軟體為 XRP Ledger 的去中心化作出貢獻。

免責聲明及風險提示: 本文資訊僅供教育與參考之用,並基於作者意見,並不構成金融、投資、法律或稅務建議。 加密貨幣資產具高度波動性並伴隨高風險,可能導致投資大幅虧損或全部損失,並非適合所有投資者。 文章內容僅代表作者觀點,不代表 Yellow、創辦人或管理層立場。 投資前請務必自行徹底研究(D.Y.O.R.),並諮詢持牌金融專業人士。