CrabTalk
CrabTalk · AI 學習
CrabTalk 是一套開源的 AI 代理常駐程式，以單一長駐的 Rust 程序在你的機器上執行。它不必為每個代理應用重寫相同的底層管線，而是提供代理軟體在請求之間維持運作所需的執行環境、傳輸層與狀態。它為任何打造或執行 AI 代理的人處理崩潰隔離、主題路由、精準記憶體與多代理協調。
關於 CrabTalk
什麼是 CrabTalk
CrabTalk 是代理堆疊中大多數團隊最後都得從頭撰寫的那一部分：一個在背景執行、負責託管代理、路由訊息並在每一輪之間保持記憶體完整的程序。它很小，大約五 MB，以單一程序執行，沒有任何子程序。它的賣點很簡單。常駐程式應該是底層管線，而不是一個你得跟它搏鬥的產品。
它位於你的用戶端應用之下、模型供應商之上。像是 CLI、機器人或排程工作這類用戶端從外部接入；模型呼叫則透過另一個名為 CrabLLM 的閘道送出。CrabTalk 本身擁有 socket、執行環境與磁碟狀態，除此之外別無其他。它不決定一個代理該有哪些工具。這正是重點所在。
主要限制在於，這是一套開發者工具。沒有儀表板。沒有登入。沒有圖形介面。你安裝一個執行檔，把用戶端指向它，然後透過 Unix socket 或 TCP 對話。如果你想要一個現成的聊天應用，這不是。
開始使用
- 從官方網站用單一 shell 指令安裝常駐程式，或從開源儲存庫自行編譯。
- 啟動常駐程式。它會讀取設定檔，並在
~/.crabtalk（或$CRABTALK_HOME指向的位置）建立工作目錄。 - 設定你的代理並連接用戶端，無論是內附的 CLI、聊天機器人還是排程工作。
- 透過工作階段與你的代理對話。訊息依主題路由，因此工作與私人對話各自留在自己的車道上。
- 透過 CrabLLM 將模型呼叫指向你的供應商，讓路由、容錯切換與預算都在同一個地方運作。
產品資訊
快速了解 CrabTalk 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 想要現成代理執行環境、不必自行打造的後端與系統開發者，前提是他們對終端機與設定檔不陌生。
- 同時執行多個代理、需要協調卻不想用脆弱自製排程器的團隊。
- 想在個人機器或小型伺服器上擁有常駐助理、且不介意安裝執行檔的愛好者。
任務
- 讓代理在請求之間保持運作，以便記住脈絡，不必每一輪都重新送出整段歷史。
- 分開進行中的工作、家庭與興趣對話，讓主題不會在單一聊天中互相滲透。
- 從少數代理擴展到數千個，因為這套常駐程式是為協調大規模機隊而打造，而不是到十個左右就觸頂。
情境
- 在筆電或家用伺服器上執行自架代理，記憶體存在本機磁碟，永不回傳到託管服務。
- 讓第二個代理在進行中的對話裡發言以進行審閱或提供第二意見，之後再交還控制權。
- 在任務進行中撐過工具故障，讓一個壞掉的擴充功能只停止自己的工作，而不是拖垮整個聊天。
主要功能
崩潰隔離
大多數 AI 系統在一個工具故障時會遺失整段對話。CrabTalk 不會。它讓每個工具、指令與擴充功能在各自的空間執行，因此壞掉的部分不會把核心一起帶走。一個擴充功能可以崩潰，而你的其他代理繼續運作，這在你執行無人看管的工作時格外重要。
以主題路由取代工作階段
你不會為每個主題開一個新聊天。CrabTalk 自己依主題分類訊息，因此工作留在工作頻道，私人事務自行切換車道。這消除了管理數十個獨立聊天所帶來的視窗切換負擔，也讓相關脈絡群聚在它該在的地方。更少分頁。更少混亂。
共享儲存上的精準記憶體
記憶體通常是代理的弱點：它要不是很快遺忘，就是隨著累積而變慢。CrabTalk 把 SQLite 的內部機制移植到它的回想層。結果是快速的查詢與磁碟上精簡的封存。代理、工作階段、記憶體、技能與搜尋全都存放在設定目錄內的單一儲存檔案中。
大規模協作
這套常駐程式是為協調數千個代理而打造，而不是大多數系統能處理的約十個，這個上限遠高於許多團隊最後得親手維護的脆弱自製排程器。這類多代理協作通常意味著一個脆弱自製的排程器。在這裡，它只是執行環境。每個派送都作為共享執行環境上的獨立任務執行，常駐程式也從不為每段對話複製執行環境。對任何思考代理機隊的人來說，這個上限就是展示品與正式部署之間的差別。
客座代理
有時第二個代理應該在進行中的對話裡發言，可能是審閱者、專家，或擁有自己聲音的工具。CrabTalk 讓客座代理直接寫入共享歷史，以標記而非委派的方式，接著主要代理在下一輪接手。這是加入審閱步驟而不必分岔整段對話的乾淨做法。很方便。不需要另開討論串。
一個指令就能啟動
啟動常駐程式並進入工作階段只需一個指令。沒有伺服器要佈建。沒有儀表板要登入。想在不做重大承諾的情況下試試看嗎？這個執行檔大約五 MB，毫不保留，因此很容易在規格普通的硬體上執行。
與模型層乾淨分離
模型位於 CrabLLM 這道清楚的邊界另一側，那是專案的 LLM 閘道。這意味著路由請求、處理容錯切換與管理預算都在同一個地方進行，與代理執行環境本身分開。你可以更換供應商或加入容錯切換，而不必動到代理。
優缺點
優點
- 佔用空間極小，大約五 MB，因此在筆電或小型伺服器上執行起來很輕鬆。
- 開源並以 Rust 撰寫，你可以自行審核與編譯。
- 崩潰隔離讓一個故障的工具不會殺死整個代理。
- 主題路由讓你不需要為每個主題管理一個獨立的聊天視窗。
- 設計上能協調數千個代理，遠超大多數系統所嘗試的規模。
缺點
- 沒有圖形介面或儀表板，因此設定過程預設你熟悉終端機與設定檔。
- 它是底層管線而非現成應用，你仍然需要一個用戶端才能與它互動。
- 記憶體存放在與設定目錄綁定的本機儲存中，因此搬移或備份狀態意味著你得自己處理那個目錄。
常見問題
它是一套給 AI 代理使用的常駐執行環境。你用它在主機上託管代理、依主題路由它們的訊息、把記憶體保存在本機儲存中，並同時協調多個代理，而不必自行打造這些基礎設施。
相關內容
探索與 CrabTalk 相關的工具、技能與文章。
CrabTalk 替代方案
HireKey
HireKey · 語音與語言 · 生產力 · AI 學習HireKey 是由前科技業招募主管打造的 AI 求職副駕駛。它分析職缺契合度、客製化履歷、帶你練習面試，並把每份申請整理在同一處。
Lune
Retrograde Labs · 生產力 · AI 學習Lune 是為科學 AI 代理打造的 AI 研究搜尋引擎。它以 MCP 伺服器形式運作，讓 Claude、ChatGPT 與 Cursor 搜尋同行評審的資訊科學論文並引用出處。
Coddy
Coddy · 程式設計 · AI 學習Coddy 是遊戲化程式學習平台，用 20 多種語言的短篇互動課程帶你寫程式，內建瀏覽器編輯器、AI 助教與免費證書。