Featherless
Featherless (formerly Recursal.AI) · 程式設計 · 其他
Featherless 是無伺服器 LLM 推論平台，把超過四萬個開源模型收進一套 OpenAI 相容 API，月費固定，不必自己架機器。
關於 Featherless
About
Featherless 是什麼
Featherless 是針對開源模型的推論服務。你從四萬多個檢查點裡挑一個，把客戶端指向單一端點，GPU 的事交給平台處理。不必下載權重，也不必養一個隨時待命的容器。
公司原本叫 Recursal.AI，創辦團隊共同帶領 Linux Foundation 旗下的 RWKV 專案，那是一個以無注意力架構為基礎的專案。這個背景說明了產品主張：開源權重應該和商業 API 一樣好呼叫。如今平台上跑著數千個創作者的作品，從小型的 7B 對話模型到 800B 的旗艦模型都有。
限制和型錄一樣重要。入門聊天方案的上限是 32K 上下文與四個同時連線單位，條款也只允許訂購者本人手動輸入。應用程式的流量、自動化與效能比較都得改用開發者方案，月付 50 美元起，以額度計價。
開始使用
- 在 featherless.ai 註冊帳號，進到主控台產生 API 金鑰。
- 從型錄挑一個模型，複製完整的模型 ID，例如某個 Qwen 或 DeepSeek 檢查點。
- 把支援 OpenAI 格式的客戶端指向
https://api.featherless.ai/v1，貼上金鑰。 - 送一次測試請求，確認延遲與輸出品質，再往上開發。
- 需要更長上下文、更高並行或應用程式流量時，升級到開發者方案。
產品資訊
快速了解 Featherless 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 角色扮演與小說創作者：聊天方案支援 SillyTavern、RisuAI 與 Wyvern，且不按詞元計費，長篇故事不會讓帳單暴衝。代價是上下文超過 32K 就用不了。
- 獨立開發者：一組金鑰就能碰到原本各自需要代管的模型，專案只需維護一套客戶端函式庫。
- 小型產品團隊：商業方案提供專屬 H100、MI325X、B200 或 B300，可放私人微調模型，還配一位具名工程師，上線時不必與他人搶算力。
- 愛玩模型的人：從 7B 換到 700B 只要改一個字串，並排比較的成本因此從一個下午縮短到幾分鐘。
任務
- 程式代理：Cline、OpenCode、Kilo Code 與 OpenHands 都能走開發者方案，256K 上下文足以涵蓋一大段程式庫。
- 長文件分析：合約、逐字稿與研究論文都塞得進開發者方案的 256K 視窗。
- 草稿與改寫：聊天方案處理信件、腳本與行銷文案，不必逐詞元計算成本。
- 模型挑選研究：同一個提示同時丟給幾個檢查點，先看清哪個適合任務再決定。
情境
- 週末原型：週五冒出想法，十分鐘後就有金鑰可用，中間不必申請 GPU 配額。
- 角色扮演社群：每月 25 美元固定費率就能應付重度使用，因為長度不計費，只有並行數有上限。
- 正式試營運：額度可累積、各模型單價不同，小型上線可以編預算，不必先租整台機器。
主要功能
一套 API 呼叫四萬多個開源模型
整個型錄都靠同一個端點與同一組金鑰。裡面有在 Hugging Face 竄紅的新模型、針對特定任務的小模型，也有大型推理檢查點。你只要改請求裡的模型 ID，平台負責繞送。
固定月費的聊天方案，詞元不限量
每月 25 美元的聊天方案提供無限詞元，不按用量收費。寫一萬字的章節和寫一段話付一樣的錢。換來的是 32K 上下文上限與四個同時連線單位，並行負載下的速度因此有明確天花板。
依用量計價的開發者方案，額度可累積
每月 50 美元買到的額度不會過期，每個模型依自己的每百萬詞元單價扣抵。失敗的請求不收費。沒用完的餘額留到下一期，對流量不穩的團隊特別有用。
上下文最長 256K
開發者方案把上限從 32K 拉到 256K，足以放進一段程式碼、一份合約或一串很長的研究討論。商業客戶還能依自家 GPU 規模再往上加。
OpenAI 相容端點
基礎網址沿用 OpenAI 的對話補全格式，既有 SDK 與工具只要換網址和金鑰就能跑。編輯器、代理框架與 n8n 工作流因此不必改寫程式就能接入。
專屬 GPU 與私人微調
商業方案跑在專屬的 H100、MI325X、B200 或 B300 上，沒有共用速率限制。團隊可透過 Hugging Face 提供私人微調模型，需求暴增時再溢出到公有雲。
優缺點
優點
- 不必設定 GPU，也不必調校冷啟動，而這通常是執行開源模型最耗時的一段。
- 聊天方案的詞元不限量，重度寫作每月 25 美元就能算得準。
- 額度不會過期，開發者方案只對成功的請求收費。
- OpenAI 相容 API 讓既有客戶端與代理工具幾乎不改程式就能接上。
- 商業方案提供專屬硬體、私人微調與具名工程師支援。
缺點
- 沒有免費方案，你得先付 25 美元，才能用自己的提示判斷輸出品質。
- 聊天方案停在 32K 上下文與四個同時連線單位，長文件與平行自動化都用不了。
- 聊天方案條款禁止應用程式流量、轉售與效能測試，做得出來的原型必須搬到計量方案。
- 型錄大不代表一定合用。下載數高與否，說明不了遵循指令的能力，實務上得測幾個模型。
常見問題
它是一個代管的開源語言模型入口。你可以用來跟模型對話、跑程式代理、寫草稿，或測試各種檢查點，不必租 GPU，也不必自己搭推論堆疊。
相關內容
探索與 Featherless 相關的工具、技能與文章。
Featherless 替代方案
Base Code
Base44 (Wix) · 程式設計 · 生產力Base Code 是 Base44 推出的共享雲端開發環境。團隊在對話中描述對既有 GitHub 儲存庫的修改，看著預覽確認結果，再以 Pull Request 交回工程團隊。
Google EmbeddingGemma 2
Google DeepMind · 寫作 · 圖片 · 程式設計Google EmbeddingGemma 2 是 7.4 億參數的開源模型，能把文字、程式碼、圖片、音訊與影片畫面轉成同一個 768 維空間裡的向量，在手機與筆電上就能執行。
GitGlow
GitGlow · 程式設計 · 生產力GitGlow 是桌面版 Git 用戶端，把你自己的程式碼與 AI 代理程式的變更集中在同一份審查裡，讓你在交付前看清楚機器上究竟要送出什麼。