Substrate AI Inference Platform
Substrate Labs Inc. · 程式設計
Substrate AI Inference Platform 把多步驟 AI 程式當成單一節點圖執行，內建文字、圖像與語音節點，並提供 Python 與 TypeScript 開發套件。服務已停止。
關於 Substrate AI Inference Platform
About
什麼是 Substrate AI Inference Platform
Substrate AI Inference Platform 是 Substrate Labs Inc. 推出的 AI 工作流程 API。這家紐約公司由 Rob Cheung 與 Ben Guo 於 2023 年創立。它不把單一模型塞在一個端點後面，而是讓開發者用小型節點描述一項 AI 功能：產生文字、抽出結構化 JSON、生成圖像、轉錄語音、計算向量，或執行自己寫的 Python 與 JavaScript。
它想解決的是接線問題。手動串接模型呼叫，意味著各家廠商之間要寫膠水程式、檔案上傳兩次、重試邏輯散落在多個服務，帳單還分成三個後台。Substrate 會讀取用它的 SDK 寫成的程式，分析整張節點圖，再把節點排成最大平行度與吞吐量。同一張圖裡的節點都保證在同一個叢集執行，中間產生的資料因此不必搬來搬去。官方文件講的資料局部性，指的就是這件事。
限制在於它的現狀。2025 年中，團隊把重心轉向 Zo Computer，一款由同一批人打造的個人雲端電腦，substrate.run 與 docs.substrate.run 現在都導向那裡。新的 API 金鑰不再發放，既有的節點圖也無法原樣匯出到其他平台。點子本身仍有參考價值，所以這個頁面留著。
開始使用
以下是平台還開放註冊時的操作流程。
- 在 substrate.run 註冊帳號，從控制台複製 API 金鑰。
- 安裝用戶端套件：Python 用
pip install substrate，TypeScript 用npm install substrate。 - 把工作拆成節點，將前一個節點的輸出接到下一個節點的輸入，例如文字先進 JSON 抽取器，再進圖像提示詞。
- 執行程式並讀取串流事件，或重跑已保存的執行紀錄，一邊調整提示詞。
產品資訊
快速了解 Substrate AI Inference Platform 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 仍在維護 Substrate 整合的開發者：文件寫明節點名稱與節點圖行為，改寫時手上有一份讀得懂的規格，不必靠猜。
- 在生產環境串接多個模型呼叫的團隊：節點圖示範了共用輸入的單一程式長什麼樣，這套設計可以搬到其他調度工具上。
- 研究模型調度的工程師：Python 與 TypeScript 開發套件短到一個下午就能讀完，很適合拿來理解這種做法。
任務
- 多步驟內容流程：草稿、結構化摘要與封面圖可以跑成一支程式，而不是三支腳本，中間文字從不離開叢集。
- 批次資料補強：整批紀錄反覆通過同一張節點圖，分派與重試由平台處理。
- 跨模態請求：語音轉文字、文字轉 JSON、再生成圖像，一條鏈走完，只記在一個帳號上。
情境
- 稽核舊有整合：如果某個服務還在呼叫 Substrate 端點，封存的節點清單會告訴你要替換哪項能力、順序怎麼排。
- 挑選調度架構：把 Substrate 的分組方式跟直接用函式呼叫的做法擺在一起比，能幫助判斷到底需不需要工作流程引擎。
- 研究這家公司的轉向：導向 Zo Computer 這件事讓時間線一目了然，也是 AI 基礎設施產品說轉就轉的現成案例。
主要功能
以節點圖執行程式
開發者用節點與相依關係描述程式，而不是寫一串 HTTP 呼叫。Substrate 先讀完整張圖，再把彼此獨立的支線同時啟動。以三條平行文字生成加一個合併步驟的工作為例，合併步驟等的是最慢的那條支線，而不是全部排隊跑完。這就是產品講的多重推論：一個請求、多個模型呼叫、一個結果。
文字、JSON、圖像與語音的現成節點
平台內建現成節點，開發者不必先自己架模型才能開始。文字生成、回傳具型別欄位的 JSON 抽取、圖像生成、語音轉錄與向量計算，全都用同一套用戶端呼叫。常見做法是用文字節點起草，把輸出壓進 JSON 結構，再存下來，一次執行完成，資料不用在廠商之間搬。
節點圖裡的自訂運算
兩個節點分別執行 Python 與 JavaScript，讓程式在模型呼叫旁邊跑一般程式碼。這補上了模型不擅長的部分：解析 CSV、呼叫內部端點、重排資料結構。由於程式碼節點跟模型節點在同一個叢集，大型中間物件可以直接傳遞，不必繞回自己的伺服器序列化。
同叢集的資料局部性
Substrate 承諾一個程式裡的每個節點都在同一個叢集執行。對使用者來說，實際效果是往返次數變少，把轉錄結果從語音節點送進文字節點時也不會有對外流量費用。長鏈條的延遲也更好預測，因為每一跳都是本地呼叫，而不是走公網。
Python 與 TypeScript 開發套件
Python 與 TypeScript 兩套開發套件是主要介面。兩者都能把節點建成物件、把一個節點當成另一個的輸入來串接，執行完再檢視結果。Ben Guo 在 Stripe 做了八年 API 與 SDK 設計，手感上看得出來：輸入有型別、方法名稱簡短，執行物件會保留每個中間值供重跑。
一個帳號、一份計費
模型呼叫、自訂程式碼與執行結果的儲存，全部併入同一份用量帳單。對小團隊而言，這是核對一張帳單與四張帳單的差別，也不用分別向每家模型廠商預購額度。用量按節點計算，因此看得出哪個步驟最吃預算。
優缺點
優點
- 節點圖層級的平行處理，讓有獨立支線的程式比寫成循序 API 呼叫的同一套邏輯更快完成。
- 一套 SDK 加一份帳單就涵蓋文字、圖像、語音與向量，小團隊的整合工作量因此降低。
- 資料局部性把中間資料留在叢集內，長鏈條不必付對外流量費，也不怕多繞一趟公網。
- 以基礎設施產品來說，SDK 設計難得乾淨，節點有型別，執行物件可以重跑。
缺點
- 平台已不對新使用者開放，今天既無法試用，也無法跑先導測試。
- 程式寫在專有的節點圖格式上，沒有匯出管道，搬遷等於重寫，不是改個設定就好。
- 模型清單比大型雲端平台窄，也沒有公開的發展藍圖可以確認後續原本會推出什麼。
常見問題
它是 Substrate Labs 的 API，用來執行由相連節點組成的 AI 程式。開發者用 Python 或 TypeScript 描述步驟，平台以平行支線執行整張圖，資料處理都在同一個叢集內完成。
相關內容
探索與 Substrate AI Inference Platform 相關的工具、技能與文章。
Substrate AI Inference Platform 替代方案
Base Code
Base44 (Wix) · 程式設計 · 生產力Base Code 是 Base44 推出的共享雲端開發環境。團隊在對話中描述對既有 GitHub 儲存庫的修改，看著預覽確認結果，再以 Pull Request 交回工程團隊。
Google EmbeddingGemma 2
Google DeepMind · 寫作 · 圖片 · 程式設計Google EmbeddingGemma 2 是 7.4 億參數的開源模型，能把文字、程式碼、圖片、音訊與影片畫面轉成同一個 768 維空間裡的向量，在手機與筆電上就能執行。
GitGlow
GitGlow · 程式設計 · 生產力GitGlow 是桌面版 Git 用戶端，把你自己的程式碼與 AI 代理程式的變更集中在同一份審查裡，讓你在交付前看清楚機器上究竟要送出什麼。