關於 StepFun
StepFun Step 3.5 Flash 是什麼
Step 3.5 Flash 是 StepFun 以開放權重釋出的文字 AI 模型，任何人都能下載模型檔案，在本機執行或透過雲端 API 取用。作為開源 AI 模型，它吸引人的地方在於效率高，品質卻沒有大幅下滑。它不會在每個 token 上都動用全部 196B 參數，而是由一層路由機制挑出每個 token 真正需要的那一小部分專家。StepFun 把這套做法稱為「智慧密度」，數字也支持這個說法：在八項基準測試中平均拿到 81.0 分，同一組比較裡領先好幾個規模大得多的模型。
對打造代理的人來說，實用層面比架構投影片更重要。它能處理 256K 的上下文視窗，因此可以一次放入龐大的程式碼庫或一整疊文件。根據 StepFun 的說法，它在 SWE-bench Verified 拿下 74.4%，在 Terminal-Bench 2.0 拿下 51.0%，這正是模型需要跨多個步驟規劃、呼叫工具卻不走偏時你想看到的成績。
限制也該講清楚。官方公布的基準數字來自 StepFun 自己。在獨立測試證實之前，就把它們當成廠商說法。此外，這個版本沒有內建圖像理解，任何視覺相關的工作都得交給另一個模型處理。而且雖然它能在高階消費級硬體上運行，「高階」這兩個字在這裡是來真的：得是 Mac Studio M4 Max 或 NVIDIA DGX Spark，不是普通筆電。
開始使用
- 選一條取用管道。想最快上手就用 StepFun 的代管 API；若想在自己的機器上跑，就從 GitHub 或 ModelScope 取得開放權重。
- 到 StepFun 平台主控台取得 API 金鑰，接著把用戶端指向相容 OpenAI 的端點（基礎網址 https://api.stepfun.com/v1），並將模型設為 step-3.5-flash。
- 用任何 OpenAI 風格的 SDK 送出第一個請求，先從簡短的提示開始，確認連線正常。
- 若是代理或程式相關工作，把模型接進你的工具迴圈，讓它在多輪對話中呼叫函式或執行程式碼。
- 放大規模。長輸入就把上下文視窗調大；若資料隱私是優先考量，就改用本機部署。
產品資訊
快速了解 StepFun 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 打造代理的開發者：這款模型針對多步驟工具使用與長時間任務調校，適合程式助理與自動化工作流程。要上手得具備基本的 API 或本機執行經驗。
- 有隱私需求的工程師：開放權重能在你自己的工作站運行，讓敏感程式碼與資料遠離第三方伺服器。你得準備一台配備強力 GPU 或 Apple 晶片的高階機器。
- 研究人員與愛玩的人：196B/11B 的 MoE 配置加上開放權重，讓它成為研究稀疏模型的乾淨測試平台。你需要能在本機運行的硬體與耐心，或有使用 API 的預算。
任務
- 代理式程式開發：SWE-bench 與 Terminal-Bench 的亮眼成績，指向它在真實儲存庫上可靠工作，包括需要多個步驟才能完成的修改。
- 長上下文分析：256K 視窗讓你放入大型程式碼庫或整批文件，一次跨越多份內容推理，不必把輸入切碎。
- 高吞吐自動化：每秒 100 至 300 個 token 的生成速度，適合大量請求接連執行、每 token 成本迅速累積的管線。
情境
- 讓程式代理整夜運行：穩定的吞吐量與長上下文，讓模型能持續處理排隊的任務，不必時時盯著。
- 分析大批文件：你可以餵入合約、日誌或研究論文，一次要求跨文件的比較。
- 打造私人助理：在自有硬體上本機部署，把資料留在自己手上，這對受法規約束或機密的工作很重要。
主要功能
具備 11B 啟用參數的稀疏 MoE 架構
Step 3.5 Flash 保有 196B 參數的池子，但每個 token 只啟用約 11B。小小一片，卻是個大模型。結果是速度接近小模型，推理深度卻保留大模型的大部分，這正是代理工作負載需要的取捨。
採用 MTP-3 的高速生成
透過三段式多 token 預測，模型在一般使用下每秒生成 100 至 300 個 token，單一資料流程式任務的尖峰可接近每秒 350 個 token。對等待長推理鏈的人來說，這樣的速度就是「你會用的工具」與「你會避開的工具」之間的差別。
具備混合注意力的 256K 上下文
模型以 3:1 的比例結合滑動視窗注意力與完整注意力，多數層看的是局部視窗，少數層則涵蓋整個序列。這讓長輸入的表現保持穩定，同時削去大上下文視窗通常伴隨的運算量。
優異的程式與代理基準成績
根據 StepFun 的說法，模型在 SWE-bench Verified 拿下 74.4%，在 Terminal-Bench 2.0 拿下 51.0%。這些測試追蹤的是模型能否真正完成實際工程工作，而不只是回答常識問題。
開放權重與本機部署
模型檔案在 GitHub 與 ModelScope 上公開，能在 Mac Studio M4 Max、NVIDIA DGX Spark 與 AMD AI Max+ 395 等硬體上運行。自己跑代表資料留在本機，也完全免去每 token 的費用。
相容 OpenAI 的 API
StepFun 的代管端點採用 OpenAI API 格式，只要換掉基礎網址，現有的 SDK 與用戶端就能用。OpenRouter 上也有免費方案，讓你在投入付費使用前先測試代理配置。
優缺點
優點
- 生成速度快（每秒 100 至 300 個 token，程式任務可達 350），適合代理與互動式工具。
- 256K 上下文視窗能一次處理大型程式碼庫與整批文件。
- 開放權重讓你能在本機運行並保持資料私密。
- 在程式與終端基準上公布的成績強勁。
- 相容 OpenAI 的 API 讓從其他供應商移轉變得簡單。
缺點
- 基準數字來自 StepFun，獨立驗證仍相當稀少。
- 本機部署需要高階硬體，不是標準筆電就能應付。
- 這個版本沒有內建圖像或多模態理解。
常見問題
它為需要快速推理與工具使用的任務而打造，例如程式代理、自動化工作流程與長上下文分析。它的速度與上下文視窗，讓它適合大量請求依序執行的管線。
相關內容
探索與 StepFun 相關的工具、技能與文章。
StepFun 替代方案
Odyssey 3
Odyssey · 其他Odyssey-3 是 Odyssey 的基礎世界模型，能即時模擬物理，把一段文字提示變成可互動的環境，並套用到機器人、汽車與遊戲上。
JarvisCore
Prescott Data · 程式設計 · 生產力 · 其他JarvisCore 是開源的 Python 執行環境，讓 AI 代理在網格上以對等節點運作、從共用帳本認領任務，並透過零信任代理服務存取外部系統。
Clef
Cloudflare · 商業 · 其他Clef 是 Cloudflare 推出、可在 Workers AI 上執行的開源決策模型。它針對設定好的題目回傳校準後的機率而非生成文字，讓代理程式快速分類、分流並採取行動。