Kodosumi

Kodosumi

Masumi Network (NMKR) · 程式設計

Kodosumi 是一套開源的 Python 執行環境,可在正式環境中執行 AI 代理服務。它架在 Ray Serve 上,負責部署、擴充與監控。

Kodosumi 的介面預覽

關於 Kodosumi

What Is Kodosumi

Kodosumi 是給開發者用的框架,適合需要把 AI 代理當成正式服務來跑、而不是只在筆電上跑個示範的人。你在 Python 裡寫好代理函式,用一份 YAML 檔描述它,框架就把剩下的做完:轉成 HTTP 端點、把工作分散到 Ray 叢集上,並且追蹤每一次執行。它由 Masumi Network 團隊維護,採用 Apache 2.0 授權。

它要補的缺口,就在「能跑起來的原型」和「撐得住真實流量」之間。代理有時要跑好幾分鐘甚至好幾小時,一波請求湧進來馬上就塞住。Kodosumi 交給 Ray 排程,所以工作能在多台機器之間長大,負載衝高時也繼續運作。它內建管理面板,補上多數代理程式碼會漏掉的部分:每次執行的時間軸、錯誤追蹤,以及分析檢視。

有幾項限制值得先講清楚。它是開發者工具,所以你得懂 Python,還要對叢集有點概念,才用得順手。付費那一層綁在 Cardano 上的 Masumi 協議,只有當你打算對代理的取用收費時才需要理它。也因為它跟框架保持中立,它不會幫你生出那些本來就得自己寫的代理邏輯。

Getting Started

  1. 用 pip install kodosumi 安裝套件,再用 ray start --head 啟動一個 Ray 主節點。
  2. 在 Python 裡寫一個代理函式,並用 @app.enter 裝飾器註冊進入點。
  3. 執行 koco serve 開啟管理面板,再用 serve run 把應用部署到 Ray。
  4. 在面板裡建立一筆 Expose 項目,按 Boot 把設定好的代理推上線。
  5. 在 Timeline 與 Analytics 面板裡看每一次執行,並從那裡調整。

產品資訊

快速了解 Kodosumi 的定價、支援平台與效能。

免費方案是
付費方案N/A
平台Web, Python, Ray cluster, self-hosted
開發者Masumi Network (NMKR)
類別程式設計
發布日期Nov 2024
最近更新Mar 2025
網站訪問量43
網站全球排名2.4M
API 提供狀態是

適合對象

這項工具最適合的使用者、任務與情境。

使用者

  • AI 開發者:需要把代理腳本變成有排程、重試與記錄的服務,而且本來就在用 Python 的人。
  • 後端與平台團隊:想在自己家的 Ray 叢集上架執行環境,而不是租一套代管平台的團隊。
  • 做付費代理服務的團隊:打算按件收費,而且一開始就想接上 Masumi 支付層的開發者。
  • 認同開源的工作室:想讀原始碼、換掉零件、不想被單一廠商綁住的團隊。

任務

  • 把代理變成端點:把一個 Python 函式包起來,讓使用者能透過 HTTP、配上一份表單和送出鈕來呼叫。
  • 擴充長時間工作:把要跑幾分鐘到幾小時的工作流程分散到會隨需求長大的叢集上。
  • 監看代理執行:沿著時間軸追每一次執行,並從內建面板抓出錯誤。
  • 處理需要人介入的步驟:用鎖與租約的模式把代理暫停,交給人做決定後再繼續跑。
  • 對代理取用收費:追蹤那些透過 Masumi 賣出工作的代理,其收入與任務失敗情況。

情境

  • 示範要變成服務:手上有一個在筆記本裡跑得起來、卻只跑一次的代理,現在需要一個能給真實使用者用的版本。
  • 流量一陣一陣來:服務平常閒著,突然被一大批請求灌進來,這種情況佇列與自動擴充才有意義。
  • 長時間的研究工作:任務比一般網頁請求久得多,塞不進單一次會卡住的呼叫裡。
  • 自行架設的環境:團隊把代理留在自家硬體上,不把資料和模型交給外面的平台。
  • 對代理成果收費:創作者上架一個付費代理,想在不自己動手做的情況下把付款與用量記錄下來。

主要功能

在 Ray Serve 上分散執行

Kodosumi 把代理跑在 Ray Serve 上,也就是撐起大型正式負載的同一套排程層。應用先在筆電上跑得起來,之後能擴散到整個叢集,代理邏輯不必重寫。當工作時間長、或是一波波湧進來時,這點特別關鍵,因為 Ray 會把每一件放到空閒的 worker 上,而不是卡住單一程序。

內建時間軸與分析的管理面板

管理面板正是多數代理框架會跳過的那一塊。它列出你註冊的服務,顯示每一次執行的時間軸,並在錯誤發生時記錄下來。分析檢視補上吞吐量與失敗次數,另一個儀表板則追蹤 Masumi 收入。你不必先自己搭一套記錄系統,就能掌握運作全貌。

與框架中立的代理整合

Kodosumi 不要求你採用它自己那套建立代理的方法。它把你在用的東西包起來,不管是一個單純的 Python 函式、一組 CrewAI 團隊,還是呼叫自行架設的模型。因為它不插手代理邏輯,你可以保住現有工具,日後也能換模型或換函式庫而不動到框架。

宣告式表單與檔案傳輸

你用幾個表單欄位描述代理需要的輸入,框架就會產生 HTML,並在瀏覽器端驗證輸入。代理還能收發檔案,上傳與下載採分段傳輸。這麼一來,一個光禿禿的函式就變成連不寫程式的人也能操作的頁面。

需要人介入的工作流程

有些工作中間就是需要一個人。Kodosumi 支援鎖與租約的模式,能把代理暫停、把控制權交給人做決定或修改,之後再繼續跑。對覆核步驟、簽核,以及會碰到敏感資料的代理來說,這正是缺的那一塊。

Masumi 支付與 MIP-003 協議

對當成服務來賣的代理,Kodosumi 能接上 Cardano 上的 Masumi 支付系統,並用 MIP-003 協議處理探索與任務管理。你會有一個支付儀表板,追蹤收入與失敗情況,代理就能按件收費,不必自己動手做一套計費層。

優缺點

優點

  • 採用 Apache 2.0 的免費開源,可以閱讀、分支、自行架設
  • 架在 Ray 上,長時間工作與突然湧入的流量都吃得下
  • 監控、時間軸與分析都內建,不必等一套客製方案
  • 與框架中立,能包住你原本就在用的代理工具
  • 對透過 Masumi 賣代理取用權的人來說,支付與探索支援都已內建

缺點

  • 它是開發者工具,不寫程式的人沒有辦法使用
  • 想用到極致就得架設並調校 Ray 叢集,這是實打實的維運工作
  • 付費與收入追蹤那一部分綁在 Masumi 協議與 Cardano 上,對採用其他計費方式的團隊並不適合
  • 與發展成熟的代理平台相比,文件與社群都還很年輕

常見問題

Kodosumi 把 AI 代理當成正式環境的服務來跑。你用 Python 寫一個代理,用一份設定檔描述它,框架就把它變成一個可擴充、帶監控的端點,而不是留在只跑一次的腳本階段。

相關內容

探索與 Kodosumi 相關的工具、技能與文章。

Kodosumi 替代方案

Forefront

Forefront

Forefront · 程式設計

Forefront 是一個用來打造開源 AI 的網頁平台。你可以用自己的資料微調主流的開源語言模型、評估它們的表現,再透過 API 執行,或匯出後自行架設。想要封閉式平台的便利、卻堅持要自己擁有模型與資料的開發者,就是這裡的目標客群。

免費 / $0 - $99/mo查看詳情
Startkit

Startkit

StartKit.AI · 程式設計

Startkit 是一套用來打造 AI SaaS 與 AI 包裝產品的樣板。可以把它想成一個 AI 新創樣板,把枯燥的部分都先接好了:驗證、Stripe 與 Lemon Squeezy 付款、用量限制、交易型電子郵件,以及一套能與 OpenAI、Anthropic、Groq 或 Llama 溝通的 AI API 啟動套件。你複製儲存庫、設定價格,然後專心在產品中使用者真正願意付費的部分。它建構於 React 與 Tailwind 之上的 Next.js,所以大部分的樣板程式碼對你來說並不陌生。

付費 / $99 - $499 one-time查看詳情
Testim

Testim

Tricentis · 程式設計

Testim 是專為網頁、行動與 Salesforce 應用程式打造的 AI 測試自動化平台,用來建立並執行端到端測試。它靠機器學習在介面變動時維持測試穩定,團隊因此少花時間修補壞掉的定位器。對於一款今天就能開始使用的自動化測試工具來說,這表現不算差。你透過在瀏覽器錄製動作來建立測試,需要更多控制時再補上 JavaScript。對忙碌的 QA 團隊來說,這是個可靠的選擇。

免費 / Custom pricing on request查看詳情