Moonshot AI 在 11 月 5 日把 Kimi K3.1 Pro 的完整權重放上 Hugging Face,兌現 10 月 24 日發表時的承諾。檔案公開了,能不能跑是另一回事。
Kimi K3.1 Pro 的權重開放下載了,多數人下載完也跑不動
先講結論。這份權重對實驗室、雲端業者與推論服務商有用,對在家用一張消費級顯示卡玩模型的人沒用。差別不在軟體,在硬體。
兩兆八千億參數換成硬碟,Kimi K3.1 Pro 要 5,600 GB
以 BF16 儲存,整份權重約 5,600 GB,壓到 INT4 也要 1,400 GB 左右,這還沒算推論時的記憶體需求。總參數兩兆八千億,每個詞元實際啟用約 1,040 億,靠混合專家(MoE)架構把計算量壓下來。架構省的是算力,省不了存放空間。
百萬詞元上下文是 Kimi K3.1 Pro 的長文籌碼
上下文長度約 105 萬詞元,原生支援圖像理解,這個規格讓它被歸進 1M context model 那一類。長上下文最貴的是注意力計算,Moonshot 的做法是把部分全注意力層換成 gated sparse attention,混合 KDA 線性注意力與 DSA 稀疏注意力。對使用者的意義很直接:把一整份判決書或技術手冊丟進去,成本不會隨著字數一路往上衝,這一點對需要讀長約與判決的台灣法律、稽核團隊特別有感。
Agent Arena 把它排在開源模型第一
Agent Arena 用超過 17,500 場真實的長流程代理工作階段做評比。Kimi K3.1 Pro(Max)在開源模型裡排第一,總榜第 13。淨提升 5.1%,同家族上一版不到 1%,差距主要落在 Bash 的穩定度。舊版常常把指令寫錯,新版明顯少一點,其餘幾項是抱怨比例、可操控性與任務完成率,方向都往上。
Terminal-Bench 65.7% 是 Moonshot 自家的基準測試成績
Terminal-Bench 測的是模型在命令列裡完成多步驟任務的能力,Moonshot 放出的對照表如下,數字都出自同一份投影片。
模型 | Terminal-Bench 4.0 |
|---|---|
Claude Opus 5.5 | 66.4% |
Kimi K3.1 Pro | 65.7% |
GPT-6 Astra | 58.2% |
Kimi 與 Claude 只差 0.7 個百分點。這種級別的差距在真實任務裡很容易被提示詞的寫法蓋過去,而且三列數字都是廠商自己跑的,沒有第三方重測。
華為 Ascend 首日就能跑,台灣團隊還是得租雲
華為說 Ascend 在第一天就能跑推論,走的是 vLLM-Ascend 與 SGLang。對多數台灣團隊來說,這條路不現實:手上沒有 Ascend 叢集,也沒有 5,600 GB 的閒置儲存。實務上會用 API,或租雲端 GPU 跑量化版。這就是 Moonshot AI open weights 的實際樣子,檔案公開,門檻沒降。
open-weight model 的競爭,現在比的是推論成本
權重公開之後,競爭點從「有沒有釋出」移到「跑一次多少錢」,模型卡上的量化格式與推論框架支援清單,比參數數字更值得看。模型卡也列出使用條款,商用前得逐條讀過。
Kimi K3.1 Pro 之後要觀察什麼
K3.1 Pro 是 K3 的後訓練版本,參數沒變,強化學習的規模放大到數百個下游領域。這種做法省下重新訓練基座的成本,也意味著下一代的本體可能還要再等。接下來要看第三方推論服務何時上架。對台灣使用者來說,現階段更實際的問題是:有哪一家 API 會先支援它?






