關於 Zep AI
What Is Zep AI
Zep AI 是夾在資料與語言模型之間的雲端服務。你把對話、文件與商業紀錄送進去，它會為每個使用者或每個帳戶建立一張上下文圖譜。每次呼叫模型時，回傳的是一小段從圖譜組出來的上下文，而不是一整堆原始紀錄。
它要解決的是記憶過期的問題。用向量搜尋翻舊片段，常常挖出已經不成立的資訊；靠工具呼叫抓資料，又會為了讀一個欄位而拉回整筆紀錄。Zep 替每項事實標上時間，連回原始出處，並且在新資料推翻舊關係時讓那條邊退場。Zep 表示，這樣的做法相較工具呼叫可省下最多九成的 token。
限制也很實際。這是給開發者用的產品，沒有消費端 App，因此匯入資料與取用上下文的程式得自己寫。計價走點數制，大量寫入圖譜比單純查詢更吃點數。取回的上下文也不等於授權代理行動，驗證輸出與放行工具呼叫仍然是你程式的工作。
Getting Started
- 在 app.getzep.com 註冊帳號，建立一組 API 金鑰。
- 安裝對應的 SDK：Python 用 zep-cloud，TypeScript 用 @getzep/zep-cloud，Go 也有官方客戶端。
- 建立使用者，再建立一個對話串，把訊息與該使用者的商業資料一併寫入。
- 在下一次模型請求前，取回一段上下文或直接對圖譜搜尋。
- 若有多個代理共用同一批資料，設定取用政策並檢查紀錄。
產品資訊
快速了解 Zep AI 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 後端與 AI 工程師：代理記憶 API 已經處理使用者、對話串與事實，不必自己重做儲存與檢索層。
- 客服與客戶成功團隊：代理能把帳戶歷史、未結工單與先前的承諾併進同一個回答，客戶不用每次重講一遍。
- 醫療與金融等受監管團隊：SOC 2 Type II 與 HIPAA BAA 讓 AI 上下文層能通過審查，原始對話紀錄則常被打回。前提是採用企業方案。
任務
- 跨工作階段記住偏好：偏好、特質與限制留在圖譜裡，每次新對話都會帶回來。
- 用散落各系統的資料回答帳戶問題：CRM 紀錄、文件與客服往來進到同一張圖譜，續約問題不再需要四次呼叫。
- 取代自建的 RAG 流程：Graph RAG 同時從圖譜與相連文件取資料，來源資料變動時要重跑索引的工作因此變少。
- 稽核代理知道什麼：政策與請求紀錄可以看出代理能取用哪些上下文，以及實際取了什麼。
情境
- 訂閱制 App 的用戶隔幾週才回來：助理接上先前的對話串，不必重播舊訊息。
- 埋在工單系統裡的客服副駕：服務人員打字時，代理已看到客戶方案、近期問題與處理過的解法。
- 開通或擴充階段的代理：它依有時間戳的帳戶事實工作，已成交或已流失的席位不會繼續扭曲推薦。
主要功能
Context Graph
Zep 為每個使用者、帳戶或領域建立時序知識圖譜，內容包含實體、事實與關係。事實帶有時間，較舊的關係在新資料出現矛盾時會降低權重。正因如此，代理才分得出現在的地址與去年搬走的那一個。
Agent Memory API
代理記憶 API 涵蓋使用者、對話串、訊息與商業資料，REST 之上有 Python、TypeScript 與 Go 的 SDK。建立使用者、掛上對話串、訊息進來就寫入，流程很直。檢索回傳的是配合下一次提示詞大小的上下文，模型拿到的是有用歷史，不是整份逐字稿。
Graph RAG
Graph RAG 把圖譜遍歷與相連文件、事件的搜尋結合。它對變動中的資料特別合適，新事實直接掛到既有實體上，不必等重新索引。原本用片段向量搜尋的團隊，通常在資料天天變之後轉到這裡。
Context Assembly and Token Savings
上下文組裝挑的是任務真正依賴的事實，不是所有提到該使用者的紀錄。Zep 回報相較工具呼叫可減少最多九成 token，帳單與提示詞長度都看得出來。代價是檢索品質取決於資料匯入得乾不乾淨。
Governance and Audit Logs
政策決定哪個代理能取用哪一段上下文，每個請求都留有紀錄。Zep Cloud 具備 SOC 2 Type II 與 HIPAA BAA，企業方案可部署在自家 VPC 或使用自有加密金鑰。受監管買家願意選它而不是單純的記憶體套件，關鍵就在這一組條件。
Integrations and MCP
除了 SDK，Zep 還提供 webhook、自訂實體與關係類型、observations，以及供 Claude Code、Cursor 等工具使用的 Context MCP Server。平台背後的圖譜引擎 Graphiti 是開源的，簽約前可以先讀檢索邏輯。
優缺點
優點
- 事實帶時間戳，過期資訊不會進到提示詞，這正是向量 RAG 最容易出錯的地方。
- 代理記憶 API 涵蓋使用者、對話串與文件，等於省下好幾個月的儲存層開發。
- 依 Zep 說法，token 用量相較工具呼叫明顯下降，模型支出直接反映出來。
- 政策加上稽核紀錄，面對「代理看過什麼」的審查能拿出證據。
- Python、TypeScript、Go 三種 SDK 加一個 MCP 伺服器，常見的代理技術堆疊都接得上。
缺點
- 這是開發者基礎設施，沒有工程支援的產品團隊無法直接使用。
- 點數計價代表大量寫入圖譜與頻繁搜尋的實際花費，會高於方案標價給人的印象。
- 檢索品質跟著匯入設計走。實體命名隨便，圖譜就亂，回答也跟著弱。
- 沒有面向終端使用者的 App 或儀表板，每個對外畫面都得自己開發。
常見問題
Zep AI 替 AI 代理提供記憶與上下文。它匯入對話、文件與商業紀錄，建立帶時間的事實圖譜，並在請求當下回傳任務需要的上下文。最常見的用途是服務同一位使用者、橫跨多次對話的助理。
相關內容
探索與 Zep AI 相關的工具、技能與文章。
Zep AI 替代方案
Knocket
Knocket (Tencent RTC team) · 生產力 · 商業 · 聊天機器人Knocket 是免費的線上客服與聯絡頁面工具，訪客可從網站、App 或一條分享連結傳訊息，你在 Telegram 或單一收件匣就能回覆。
Agibot
Agibot · 生產力 · AI 助理 · 聊天機器人Agibot 是為 Mac 打造的個人 AI 代理，關掉視窗後仍會繼續運作，能依排程執行例行任務，也可透過 Telegram 或 Slack 用你自己的 API 金鑰下指令。
Melete
Melete · 生產力 · AI 助理 · 聊天機器人Melete 是團隊用的 AI 工作空間，代理會在 Slack、Notion、Linear 與 GitHub 上研究、撰稿並執行工作，共享記憶與審核機制讓人隨時掌握狀況。