Twigg
Twigg · 生產力 · 其他
Twigg 是一款具狀態的 LLM API，替你保存、調整並路由對話上下文。你只要建立一次聊天，之後只送出下一個事件，並指定要導向哪個模型。它會儲存整段對話串、依各模型的上下文視窗裁剪、為 Anthropic、OpenAI、Google、xAI、Fireworks 或 OpenRouter 進行轉譯、以串流方式回傳答案，並回報每一筆請求的花費。 上下文管理是在 LLM 上開發時最繁瑣的一環。為什麼要為每個供應商重新打造一次？
關於 Twigg
Twigg 是什麼
Twigg 是一套託管的上下文管理 API，是一套上下文儲存、組裝與模型路由器，鎖定在大型語言模型上開發應用的開發者。你不必自己設計訊息表、撰寫在對話紀錄超出視窗時決定要丟棄什麼的程式碼，也不必為每個供應商維護一層轉譯，只要送出下一輪內容，讓 Twigg 處理背後的機制。它介於你的應用程式與模型供應商之間，並避開仍屬於你的部分：代理迴圈與工具本身。
核心承諾是可攜性。在多數供應商 API 中，對話存在於產生它的系統裡，因此被儲存的對話串同時也是你走不了的原因。Twigg 把對話存在模型旁邊。模型是逐請求的選擇，而非聊天的固有屬性，因此在某個模型上開始的對話串，只要改一個欄位就能用另一個模型延續。紀錄中沒有任何內容是用單一供應商的方言寫成的。
適用範圍很明確，這點很重要。Twigg 在目錄中的所有模型上處理帶工具的對話輪次。它不做嵌入、圖像生成、批次作業或微調，也從不替你執行工具。若你的專案需要這些功能，它們存在於別處。
開始使用
- 在 twigg.ai/dashboard/api-keys 的主控台建立 API 金鑰。金鑰格式類似
tw_live_…。 - 以
POST /api/v1/chats建立聊天，選擇像acme/proj-7這樣的命名空間路徑。保留回傳的聊天 id。 - 以
POST /api/v1/chats/{chat_id}/responses送出一個輪次，附上模型名稱與僅限新的輸入，例如提示或工具結果。 - 讀取伺服器推送事件串流以取得答案，結尾會有一個帶用量與成本的
done事件。 - 當模型要求動用某個工具時，在你自己的程式碼中執行它，並把結果送到同一個端點。
產品資訊
快速了解 Twigg 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 後端與 AI 工程師：你保留代理迴圈與工具程式碼，由 Twigg 管理對話紀錄，因此花在上下文管線上的時間更少。需要熟悉 HTTP 與伺服器推送事件。
- 執行多模型功能的產品團隊：你可以在每次請求時把聊天從便宜模型移到更強的模型，適合依成本或品質做路由。需要有帳號與金鑰。
- 想避免被供應商綁死的新創團隊：把對話存在供應商之外，意味著換模型不會讓你的歷史紀錄擱淺。當工作負載是帶工具的聊天時最合適。
任務
- 打造多輪助理：Twigg 保存歷史並依各模型的視窗調整，因此你只送出最新的事件。
- 逐請求稽核成本：每次執行都會記錄由哪個模型服務與花費多少，有助於計費或編列預算。
- 工具呼叫工作流程：Twigg 回報工具呼叫但不執行它，把執行與其結果留給你的程式碼。
- 對話中途切換模型：改一個欄位，就能把同一段對話串導向另一個供應商。
情境
- 一個在棘手工單上升級、從快速便宜模型換到更強模型的客服機器人。
- 在不必設計訊息與工具結果資料庫結構的情況下，先做代理原型。
- 用同一段對話紀錄比較各供應商，看看哪個在你的使用情境下回答更好。
主要功能
具狀態的對話儲存
Twigg 以受管理的上下文儲存方式替你保存對話，因此你永遠不必重播整段紀錄。你只建立一次聊天，之後只送出剛剛發生的事，例如一個提示或一個工具結果。被儲存的對話串成為你應用程式讀寫的唯一紀錄。
供應商轉譯層
同一段聊天可由 Anthropic、OpenAI、Google、xAI、Fireworks 或 OpenRouter 的模型服務。Twigg 把儲存的上下文轉成所選供應商期望的結構，因此你不必維護各供應商的格式。不需要送出模型自家的字串，改為指定一筆目錄項目即可。
逐請求的模型路由
模型是逐請求的選擇，而非聊天的固有屬性。只要改一個欄位，就能在對話中途切換模型。在一個模型上開始，在另一個上延續。這讓依成本或品質的路由變成一行程式的改動，而非一次搬遷。
上下文預算與壓縮
每個命名空間帶有各自的規則，包括上下文預算與保留政策。當對話紀錄超出某個模型的視窗時，Twigg 會將它壓縮並提醒你發生在哪裡。壓縮執行會以獨立的項目、相同費率計費。
執行層級的成本回報
每次互動都是一次執行，記錄組裝了哪些上下文、由哪個模型服務、花費多少。done 事件會回傳用量與成本，而執行 id 就是你用來稽核請求的依據。價格以每百萬個 token 列出，並包含平台利潤。
用來組織的命名空間
命名空間是你選擇的路徑，例如 acme/proj-7，在建立聊天時設定，之後不可變更。它把聊天分組以便列出，也是決定套用哪些指令、工具、保留政策與上下文預算的範圍鍵。在路徑上層發布的設定會套用到其下層。
具工具感知的串流
回應一律以伺服器推送事件串流。除了文字增量之外，串流還會回報工具呼叫、設定與轉譯警告，以及進行中的壓縮作業。Twigg 會告訴你某個工具被呼叫了，它從不替你執行。
優缺點
優點
- 對話存在任何單一供應商之外，因此換模型不會讓你的歷史紀錄擱淺。
- 你只送出最新的事件，而非整段紀錄，減少你管理的程式碼與傳輸量。
- 單一 API 金鑰就能觸及 Anthropic、OpenAI、Google、xAI、Fireworks 與 OpenRouter 的模型。
- 每次執行都回報所服務的模型與成本，有助於計費與預算。
- 不需要 SDK：任何能讀取伺服器推送事件的 HTTP 客戶端都夠用。
缺點
- 沒有非串流模式，因此每個整合都必須處理伺服器推送事件，比單純的 JSON 呼叫更費工。
- 它從不執行工具，意味著你仍得自行建構並執行工具層。
- 範圍止於帶工具的對話輪次；沒有嵌入、圖像生成、批次或微調，因此混合型工作負載需要其他服務。
- 聊天一旦建立，命名空間即不可變更，因此之後要重新組織就得開新的聊天。
常見問題
它在一套 API 背後儲存、組裝並路由 LLM 的對話上下文。你建立一次聊天，帶上模型名稱送出下一個事件，它就會把上下文調整到該模型並以串流回傳答覆。
相關內容
探索與 Twigg 相關的工具、技能與文章。
Twigg 替代方案
Swms
Swms AI · 寫作 · 生產力 · 商業Swms 是一款 AI 安全合規工具，能把一段對工作的簡單描述變成可直接使用的安全文件。你描述專案、工種與已知危害，它就會在數秒內寫出一份安全作業方法聲明、工作危害分析、安全作業程序、RAMS 或安全資料表。它還內建 Oscar，一個能用任何語言回答職場安全問題的聊天助理。建築、礦業、運輸與倉儲團隊都用它來減少那些原本會吃掉大半工作天的文書作業。
Wordly AI Translation
Wordly · 語音與語言 · 生產力Wordly AI Translation 是一套為會議、研討會與活動打造的即時 AI 翻譯與字幕平台。它提供 60 多種語言的即時翻譯、字幕、逐字稿與摘要，與會者只要掃描 QR Code 或開啟連結就能加入，不必配戴專用耳機。平台可搭配 Zoom、Microsoft Teams、Google Meet 與 Webex 運作，專為想在每場活動提供多語言服務、又不想每場都請真人口譯的組織而設計。就是這麼單純。
Rows
Rows (Superhuman) · 生產力 · 商業Rows 是一款 AI 試算表與資料分析工具，能從 50 多個來源匯入即時資料，接著讓你用白話文操作，不必寫 SQL 查詢或巢狀公式。你可以從 PDF 裡撈出數字，連接廣告平台、資料庫與銀行帳戶，並請 AI 建立報表、合併資料集，或架設會自動重算的模型。它在瀏覽器裡運行，操作起來就像試算表，如今隸屬於 Superhuman 旗下。