一款免費開源的編碼模型,40B 參數卻能在筆電上運作,開發過程大部分交給 AI 自己跑。Recursive 的 Flint 把「AI 造 AI」從口號變成一條產線。
Flint 免費開源,筆電就跑得動
去年才成立的 AI 新創公司 Recursive,在 10 月 21 日發表第一個模型 Flint。它是專門寫程式的編碼模型,免費、採 Apache 2.0 授權,開發者可以直接從 Hugging Face 下載,在自己的筆記型電腦上執行。不用租雲端 GPU,不用申請 API 金鑰,程式碼也不用離開自己的機器。
帶頭的人來頭不小。執行長 Richard Socher 是 Salesforce 前首席科學家,在 AI 研究圈資歷深厚。公司今年 5 月結束隱身模式時,已募得 6.5 億美元資金,估值 46.5 億美元,投資名單包括 GV、Nvidia 與 AMD Ventures。6 月又與 AWS 簽下 4.1 億美元的算力協議。Socher 對外的說法很直接:公司招募的不是人類員工,而是 AI 代理人。
Eureka Machine:從提出想法到跑實驗都由 AI 包辦
Flint 最特別的地方,是這個模型大部分由 AI 造出來。Recursive 的自動化研究系統 Eureka Machine 參與了幾乎每個環節,從預訓練、後訓練到推理階段都插得上手。它的運作方式是提出想法、實際跑實驗,再用結果決定下一步要往哪裡走。
成果反映在速度上。一個小團隊從零開始到正式發表,前後花了不到 4 個月。根據官方說法,Eureka 的具體貢獻包括更稀疏的模型結構、低比特訓練(模型體積縮小 71%,品質幾乎沒有損失),以及自行撰寫的專用加速程式(kernel)。
把話說清楚:這還不是 AI 完全自立門戶造出 AI。整個流程仍有人類監督,Eureka 的角色比較像一個不知疲倦的研究助理,而不是自主的研究員。遞迴自我改良(recursive self-improvement,AI 改良 AI、再一代代滾上去的想法)至今仍停在概念驗證階段,Flint 算是這條路上一次早期的公開測試。
筆電真的跑得動 40B 模型嗎?
Flint 採用混合專家(MoE)架構,總參數 40B,每次推論只激活其中 2.5B。這種設計像一間只有少數燈亮著的大樓,模型容量很大,實際運算時卻只用一小部分,所以普通筆電的記憶體就足以負荷。
對比上周 Meta 發表的 Mac 向開源模型 Muse Spark Open,規模差距一目了然:816B 參數,至少要 1TB 記憶體才放得下。兩者根本不是同一級的比賽,一個瞄準工作站,一個瞄準隨身機器。
速度與測試成績,先看廠商數據
效能數字目前全部來自廠商自報,還未經獨立驗證。根據 Recursive 的說法,Flint 在 MacBook Pro(M4 Pro 晶片)上每秒可生成約 131 個詞元(tokens,模型輸出的文字單位),差不多是同機運行 Gemma 4 與 Nemotron 3.5 Lightning(每秒 58 到 69 個詞元)的 2 倍;在 Nvidia RTX Spark 上則超過每秒 150 個詞元。
基準測試方面,官方宣稱 Flint 在 SWE-Bench Verified(一套用真實 GitHub 議題檢驗模型修 bug 能力的測驗)上,超過其他 50B 以下參數的模型;在 Recursive 自己的 6 項測試平均分中,只有阿里巴巴的 Qwen3.8 27B 比它高。這些都是廠商口徑,參考即可。
外部倒是有一份實測。《Wired》記者 Will Knight 在一台 48GB 記憶體的 Mac 上試用,用它做出待辦事項應用程式和一個網路調研工具,評語是每次都搞定。小模型常見的報錯與龜速,在 Flint 上並不明顯。
本地跑編碼模型的三個好處與一個但書
在自己機器上跑模型,好處很實際:沒有網路也能用,程式碼不出本機,也不必按詞元付費。對處理機敏程式碼的團隊,或者只是不想再收 API 帳單的獨立開發者,這三點都很難拒絕。
但書也得講。官方自己承認,Flint 比大型付費編碼助手需要更多引導,建議把大任務拆成小步驟再交給它。想直接丟一句話就拿到完整功能的人,目前還是得回到雲端大模型。
Flint 已在 Hugging Face 開放下載,有興趣的開發者可以抓回來在自己的機器上跑一輪,順手驗證那些廠商數字。至於「AI 造 AI」的這條路線,值得盯著 Recursive 的下一個模型看:如果 Eureka Machine 的產出速度維持住,模型發表的節奏可能會變得不太一樣。






