
Kodosumi
Masumi Network (NMKR) · 程式設計
Kodosumi 是一套開源的 Python 執行環境,可在正式環境中執行 AI 代理服務。它架在 Ray Serve 上,負責部署、擴充與監控。

關於 Kodosumi
What Is Kodosumi
Kodosumi 是給開發者用的框架,適合需要把 AI 代理當成正式服務來跑、而不是只在筆電上跑個示範的人。你在 Python 裡寫好代理函式,用一份 YAML 檔描述它,框架就把剩下的做完:轉成 HTTP 端點、把工作分散到 Ray 叢集上,並且追蹤每一次執行。它由 Masumi Network 團隊維護,採用 Apache 2.0 授權。
它要補的缺口,就在「能跑起來的原型」和「撐得住真實流量」之間。代理有時要跑好幾分鐘甚至好幾小時,一波請求湧進來馬上就塞住。Kodosumi 交給 Ray 排程,所以工作能在多台機器之間長大,負載衝高時也繼續運作。它內建管理面板,補上多數代理程式碼會漏掉的部分:每次執行的時間軸、錯誤追蹤,以及分析檢視。
有幾項限制值得先講清楚。它是開發者工具,所以你得懂 Python,還要對叢集有點概念,才用得順手。付費那一層綁在 Cardano 上的 Masumi 協議,只有當你打算對代理的取用收費時才需要理它。也因為它跟框架保持中立,它不會幫你生出那些本來就得自己寫的代理邏輯。
Getting Started
- 用
pip install kodosumi安裝套件,再用ray start --head啟動一個 Ray 主節點。 - 在 Python 裡寫一個代理函式,並用
@app.enter裝飾器註冊進入點。 - 執行
koco serve開啟管理面板,再用serve run把應用部署到 Ray。 - 在面板裡建立一筆 Expose 項目,按 Boot 把設定好的代理推上線。
- 在 Timeline 與 Analytics 面板裡看每一次執行,並從那裡調整。
產品資訊
快速了解 Kodosumi 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- AI 開發者:需要把代理腳本變成有排程、重試與記錄的服務,而且本來就在用 Python 的人。
- 後端與平台團隊:想在自己家的 Ray 叢集上架執行環境,而不是租一套代管平台的團隊。
- 做付費代理服務的團隊:打算按件收費,而且一開始就想接上 Masumi 支付層的開發者。
- 認同開源的工作室:想讀原始碼、換掉零件、不想被單一廠商綁住的團隊。
任務
- 把代理變成端點:把一個 Python 函式包起來,讓使用者能透過 HTTP、配上一份表單和送出鈕來呼叫。
- 擴充長時間工作:把要跑幾分鐘到幾小時的工作流程分散到會隨需求長大的叢集上。
- 監看代理執行:沿著時間軸追每一次執行,並從內建面板抓出錯誤。
- 處理需要人介入的步驟:用鎖與租約的模式把代理暫停,交給人做決定後再繼續跑。
- 對代理取用收費:追蹤那些透過 Masumi 賣出工作的代理,其收入與任務失敗情況。
情境
- 示範要變成服務:手上有一個在筆記本裡跑得起來、卻只跑一次的代理,現在需要一個能給真實使用者用的版本。
- 流量一陣一陣來:服務平常閒著,突然被一大批請求灌進來,這種情況佇列與自動擴充才有意義。
- 長時間的研究工作:任務比一般網頁請求久得多,塞不進單一次會卡住的呼叫裡。
- 自行架設的環境:團隊把代理留在自家硬體上,不把資料和模型交給外面的平台。
- 對代理成果收費:創作者上架一個付費代理,想在不自己動手做的情況下把付款與用量記錄下來。
主要功能
在 Ray Serve 上分散執行
Kodosumi 把代理跑在 Ray Serve 上,也就是撐起大型正式負載的同一套排程層。應用先在筆電上跑得起來,之後能擴散到整個叢集,代理邏輯不必重寫。當工作時間長、或是一波波湧進來時,這點特別關鍵,因為 Ray 會把每一件放到空閒的 worker 上,而不是卡住單一程序。
內建時間軸與分析的管理面板
管理面板正是多數代理框架會跳過的那一塊。它列出你註冊的服務,顯示每一次執行的時間軸,並在錯誤發生時記錄下來。分析檢視補上吞吐量與失敗次數,另一個儀表板則追蹤 Masumi 收入。你不必先自己搭一套記錄系統,就能掌握運作全貌。
與框架中立的代理整合
Kodosumi 不要求你採用它自己那套建立代理的方法。它把你在用的東西包起來,不管是一個單純的 Python 函式、一組 CrewAI 團隊,還是呼叫自行架設的模型。因為它不插手代理邏輯,你可以保住現有工具,日後也能換模型或換函式庫而不動到框架。
宣告式表單與檔案傳輸
你用幾個表單欄位描述代理需要的輸入,框架就會產生 HTML,並在瀏覽器端驗證輸入。代理還能收發檔案,上傳與下載採分段傳輸。這麼一來,一個光禿禿的函式就變成連不寫程式的人也能操作的頁面。
需要人介入的工作流程
有些工作中間就是需要一個人。Kodosumi 支援鎖與租約的模式,能把代理暫停、把控制權交給人做決定或修改,之後再繼續跑。對覆核步驟、簽核,以及會碰到敏感資料的代理來說,這正是缺的那一塊。
Masumi 支付與 MIP-003 協議
對當成服務來賣的代理,Kodosumi 能接上 Cardano 上的 Masumi 支付系統,並用 MIP-003 協議處理探索與任務管理。你會有一個支付儀表板,追蹤收入與失敗情況,代理就能按件收費,不必自己動手做一套計費層。
優缺點
優點
- 採用 Apache 2.0 的免費開源,可以閱讀、分支、自行架設
- 架在 Ray 上,長時間工作與突然湧入的流量都吃得下
- 監控、時間軸與分析都內建,不必等一套客製方案
- 與框架中立,能包住你原本就在用的代理工具
- 對透過 Masumi 賣代理取用權的人來說,支付與探索支援都已內建
缺點
- 它是開發者工具,不寫程式的人沒有辦法使用
- 想用到極致就得架設並調校 Ray 叢集,這是實打實的維運工作
- 付費與收入追蹤那一部分綁在 Masumi 協議與 Cardano 上,對採用其他計費方式的團隊並不適合
- 與發展成熟的代理平台相比,文件與社群都還很年輕
常見問題
Kodosumi 把 AI 代理當成正式環境的服務來跑。你用 Python 寫一個代理,用一份設定檔描述它,框架就把它變成一個可擴充、帶監控的端點,而不是留在只跑一次的腳本階段。
相關內容
探索與 Kodosumi 相關的工具、技能與文章。
Kodosumi 替代方案
Forefront
Forefront · 程式設計Forefront 是一個用來打造開源 AI 的網頁平台。你可以用自己的資料微調主流的開源語言模型、評估它們的表現,再透過 API 執行,或匯出後自行架設。想要封閉式平台的便利、卻堅持要自己擁有模型與資料的開發者,就是這裡的目標客群。
Startkit
StartKit.AI · 程式設計Startkit 是一套用來打造 AI SaaS 與 AI 包裝產品的樣板。可以把它想成一個 AI 新創樣板,把枯燥的部分都先接好了:驗證、Stripe 與 Lemon Squeezy 付款、用量限制、交易型電子郵件,以及一套能與 OpenAI、Anthropic、Groq 或 Llama 溝通的 AI API 啟動套件。你複製儲存庫、設定價格,然後專心在產品中使用者真正願意付費的部分。它建構於 React 與 Tailwind 之上的 Next.js,所以大部分的樣板程式碼對你來說並不陌生。
Testim
Tricentis · 程式設計Testim 是專為網頁、行動與 Salesforce 應用程式打造的 AI 測試自動化平台,用來建立並執行端到端測試。它靠機器學習在介面變動時維持測試穩定,團隊因此少花時間修補壞掉的定位器。對於一款今天就能開始使用的自動化測試工具來說,這表現不算差。你透過在瀏覽器錄製動作來建立測試,需要更多控制時再補上 JavaScript。對忙碌的 QA 團隊來說,這是個可靠的選擇。
