Liquid Inference
Architect Financial Technologies Inc. · 程式設計 · 生產力
Liquid Inference 是 Architect 推出的 AI 推論市場，每一次請求都會公開競價，最後交給符合你條件且價格最低的供應商。
關於 Liquid Inference
About
Liquid Inference 是什麼
Liquid Inference 是一個以交易所方式運作的 LLM 路由器。供應商針對自己服務的每個模型，掛出每 token 的報價；你送出的請求，會落到符合條件且價格最低的那一筆。使用方式有兩種：瀏覽器裡的對話介面，或是吃 OpenAI 與 Anthropic 格式的推論 API。
它處理的是帳單問題，不是模型問題。多數團隊即使有幾家廠商在跑同一個開源模型，還是照付某家封閉 API 的牌價。這裡在產生第一個 token 前就固定價格上限，沒用完的預算回到你的餘額，每筆工作都留一張收據，寫明得標的供應商與最後扣款。
搬移正式工作負載之前，先看清楚限制。市場在 2026 年 10 月才上線，賣方數量與可選模型都還在變動。品質會因為得標者而異，所以購買規則才包含延遲、吞吐量與地區篩選。另外還有每 token 的最低收費，遇到很便宜的模型時，它佔帳單的比例會高於表面上的 5%。
開始使用
- 到 liquidinference.ai 註冊。註冊會建立一個工作區，集中管理餘額、API 金鑰與收據，並附一筆起始額度，不必先綁卡就能測試。
- 在金鑰頁面建立 API 金鑰。密鑰只顯示一次，關掉面板前先複製。
- 把原本的 OpenAI 或 Anthropic 客戶端指向交易所的 base URL，換掉金鑰。模型名稱必須是平台有列出的那幾個。
- 需要時在請求內容加上
exchange物件，設定價格上限、首 token 時限、資料保留政策或供應商白名單。 - 讀取回應裡的
exchange欄位，或直接開收據，確認是哪一家得標、這筆工作花了多少。
產品資訊
快速了解 Liquid Inference 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 跑程式代理的開發者：Claude Code、Codex、Cursor、Cline 只要改 base URL 就能接上，單次請求的價格上限可以擋住失控的代理在一個下午燒掉整個月預算。
- 用量難以預測的新創團隊：按 token 計費，沒有席位授權也沒有月費門檻，淡週的帳單就是比旺週低。
- 需要單據的平台的工程師：每筆工作都有收據，列出供應商、上限、用量與扣款，拿去跟財務對帳比封閉 API 的一張總發票容易得多。
- 手上有多餘 GPU 的機房經營者：可以登記部署、自訂價格，在同一本委託簿上賣 token，不過上架前要通過審核。
任務
- 有預算上限的批次處理：為每次請求設死上限，跑分類、摘要或抽取，處理幾千個檔案也不必盯著儀表板。
- 用同一個提示詞比較模型：同一個請求丟給幾個模型名稱，比較輸出與價格之後再決定。
- RAG 與搜尋流程：對話回應與 embeddings 都走競價，檢索系統可以用同一個餘額買向量與答案。
- 採購圖片、語音或逐字稿：圖像生成、語音合成、轉錄與影片都走同一套請求模式，分別按張、字元、秒數或 token 計價。
情境
- 代理迴圈開始打轉、帳單往上衝：上限會把工作停在固定金額，保留額度的其餘部分回到餘額。
- 長批次跑到一半供應商掛掉：只要還沒產生輸出，交易所會改試下一筆報價，整批不必手動重跑。
- 團隊想找最便宜的 LLM API 給內部工具，又沒辦法一家家試：市場資料與自動路由器會按價格與公開評分排序，候選名單當場縮短。
主要功能
每一次請求都競價
每個請求都會進入即時報價簿。平台先剔除不符合你限制的報價，其餘按預估費用加上預期等待時間排序，再把工作交給最好的一筆。價格在生成前就鎖住，最壞情況事先知道，不必等帳單。
由你決定的購買規則
選用的 exchange 物件負責承載條件。你可以設定美元上限、首 token 最長等待、最低吞吐量、允許地區、零保留要求，以及供應商與模型的白名單或黑名單。只有全部符合的報價才能進場，政策因此變成請求裡的一個欄位，而不是一張客服單。
首 token 之前的換手
得標的供應商如果在寫出任何輸出前失敗，平台可以把工作轉給下一筆報價。輸出一旦開始就不換，所以一份答案不會混到兩個模型。這條分界對串流代理很重要，中途換人會讓已經送出的工具呼叫對不上。
收據與公開市場資料
每筆結算完成的工作都有一張收據，記載得標者、價格上限、token 用量與手續費。帳戶持有人還能看到即時委託簿、各供應商報價與成交紀錄。這些資料可以在送出請求前先透過 API 讀取，用來判斷某個模型是不是正在高於平常的價位成交。
自動路由器與軸線路由
送出 liquid.auto 之後，平台會在你的上限內，依公開評分與預估費用挑模型，並分成 premium、balanced、economy 三種偏好。也可以在模型名稱加後綴，改成按最聰明、最快或最便宜排序。兩種做法底下都還是競價，價格仍由互相競爭的賣方決定。
接得上現有工具鏈
端點組成一套相容 OpenAI 的 API，涵蓋 Chat Completions 與 Responses，另外還有 Anthropic Messages 路由。官方 SDK 改個 base URL 就能用。平台為 Claude Code、Codex、Cursor、Cline、Open WebUI、n8n、Dify、LangChain 等大量工具準備了接線指南。Liquid CLI 則讓你用同一把金鑰，在終端機啟動程式代理。
給 GPU 持有者的賣方介面
供應商登記部署、為每個模型設定價格，並在工作階段中報價。平台負責派送工作、計量用量與結算付款。閒置 GPU 不必自己打造計費系統就能變現；已經在別處賣算力的人，也可以把同一份部署放上來當第二個通路。
優缺點
優點
- 價格上限在生成前就固定，即使提示詞把輸出上限開得很大，也不會生出意外帳單。
- 原本的 SDK 與客戶端都能留著。多數情況只要換 base URL 與金鑰，不必重寫程式。
- 購買規則涵蓋延遲、地區與資料保留，對有合規要求的工作負載來說，市場才真的能用。
- 收據與公開委託簿留下每筆工作的成本與服務方，事後查帳有依據。
- 賣方介面讓 GPU 持有者能填補閒置產能，不必另外做一套計費。
缺點
- 市場還很新。2026 年 10 月才上線，賣方數量少於已經站穩的 router，模型覆蓋範圍也可能無預警變動。
- 每百萬 token 0.01 美元的最低手續費對便宜與免費報價很不友善。用在低價模型時，實際費率可能接近供應商收費的一半。
- 輸出品質取決於誰得標。競價優化的是價格與宣稱效能，不是某一則答案的好壞，公開評分高也不保證回覆更好。
- 輸出開始之後就不能換供應商。賣方中途品質掉下來，你只會拿到一份殘缺答案，然後重送。
常見問題
Liquid Inference 是 Architect Financial Technologies 推出的 LLM 推論交易所。供應商為自己服務的模型公開價格，每次請求會交給符合買方成本、速度、地區與資料規則且價格最低的報價。使用途徑包括網頁、API 與 CLI。
相關內容
探索與 Liquid Inference 相關的工具、技能與文章。
Liquid Inference 替代方案
Base Code
Base44 (Wix) · 程式設計 · 生產力Base Code 是 Base44 推出的共享雲端開發環境。團隊在對話中描述對既有 GitHub 儲存庫的修改，看著預覽確認結果，再以 Pull Request 交回工程團隊。
Google EmbeddingGemma 2
Google DeepMind · 寫作 · 圖片 · 程式設計Google EmbeddingGemma 2 是 7.4 億參數的開源模型，能把文字、程式碼、圖片、音訊與影片畫面轉成同一個 768 維空間裡的向量，在手機與筆電上就能執行。
GitGlow
GitGlow · 程式設計 · 生產力GitGlow 是桌面版 Git 用戶端，把你自己的程式碼與 AI 代理程式的變更集中在同一份審查裡，讓你在交付前看清楚機器上究竟要送出什麼。