Zep AI
Zep AI, Inc. · 챗봇
Zep AI는 업무 데이터, 문서, 대화를 시간축 지식 그래프로 묶어 AI 에이전트에 장기 기억과 작업에 필요한 컨텍스트를 넘기는 컨텍스트 엔지니어링 플랫폼이다.
Zep AI 소개
What Is Zep AI
Zep AI는 자사 데이터와 언어 모델 사이에 놓이는 클라우드 서비스다. 대화, 문서, 업무 레코드를 넣으면 사용자별 또는 계정별로 컨텍스트 그래프를 만든다. 모델을 호출할 때마다 돌아오는 것은 그 그래프에서 뽑은 짧은 컨텍스트 블록이지, 원본 레코드 더미가 아니다.
겨냥하는 문제는 기억의 유통기한이다. 오래된 조각에 대한 벡터 검색은 이미 틀린 사실을 계속 돌려준다. 툴 호출은 필드 하나를 읽으려고 레코드 전체를 끌어온다. Zep은 사실마다 날짜를 붙이고 출처에 연결하며, 새 데이터와 어긋나는 관계는 은퇴시킨다. Zep의 설명에 따르면 이 방식으로 툴 호출 대비 토큰 사용을 최대 90%까지 줄인다.
한계는 현실적이다. 개발자용 제품이라 소비자용 앱이 없고, 수집과 검색 코드는 직접 작성해야 한다. 과금은 크레딧 기반이라 그래프 쓰기가 많은 사용자는 단순 조회보다 빨리 크레딧을 태운다. 가져온 컨텍스트가 에이전트의 행동을 허가하지도 않는다. 출력 검증과 툴 호출 승인은 여전히 자체 코드 몫이다.
Getting Started
- app.getzep.com에서 계정을 만들고 API 키를 발급한다.
- 환경에 맞는 SDK를 설치한다. Python은 zep-cloud, TypeScript는 @getzep/zep-cloud, Go 클라이언트도 있다.
- 사용자를 만들고 스레드를 붙인 뒤 메시지와 해당 사용자의 업무 데이터를 넣는다.
- 다음 모델 요청 전에 컨텍스트 블록을 가져오거나 그래프 검색을 실행한다.
- 여러 에이전트가 같은 데이터를 쓴다면 검색 정책을 정하고 로그를 확인한다.
제품 정보
Zep AI의 요금, 지원 플랫폼, 성능을 한눈에 확인해 보세요.
추천 대상
이 도구가 가장 잘 맞는 사용자, 작업, 상황입니다.
사용자
- 백엔드와 AI 엔지니어
- 고객지원과 CS 팀
- 의료와 금융의 규제 대응 팀
작업
- 세션을 넘어 선호를 기억하기
- 흩어진 시스템으로 계정 질문에 답하기
- 자체 RAG 파이프라인 교체
- 에이전트가 무엇을 알았는지 감사하기
활용 상황
- 몇 주 만에 돌아오는 사용자가 있는 구독 앱
- 티켓 도구 안에서 도는 지원 코파일럿
- 온보딩이나 확장 제안 에이전트
주요 기능
Context Graph
Zep는 사용자, 계정, 도메인마다 엔티티와 사실, 관계로 이루어진 시간축 지식 그래프를 만든다. 사실에는 날짜가 붙고, 새 데이터와 모순되는 오래된 관계는 가중치를 잃는다. 이 구조 덕분에 지금 주소와 작년에 바뀐 주소를 구분한다.
Agent Memory API
에이전트 메모리 API는 사용자, 스레드, 메시지, 업무 데이터를 다루며 REST 위에 Python, TypeScript, Go SDK가 올라간다. 사용자를 만들고 스레드를 붙이고 메시지가 생길 때마다 쓴다. 검색은 다음 프롬프트 크기에 맞춘 컨텍스트 블록을 돌려주므로 모델은 전체 녹취가 아니라 쓸모 있는 이력을 받는다.
Graph RAG
Graph RAG는 그래프 탐색과 연결된 문서, 에피소드 검색을 함께 쓴다. 새 사실이 기존 엔티티에 붙기 때문에 재색인을 기다리지 않고 변하는 데이터를 따라간다. 조각 벡터 검색으로 시작한 팀이 데이터가 매일 바뀌면서 이쪽으로 옮겨오는 이유다.
Context Assembly and Token Savings
컨텍스트 조립은 과업이 의존하는 사실만 고른다. 사용자를 언급한 모든 레코드를 끌어오지 않는다. Zep은 툴 호출 대비 토큰이 최대 90% 줄어든다고 보고하며, 이는 모델 비용과 프롬프트 길이에 그대로 나타난다. 대신 수집 설계가 거칠면 검색 품질이 떨어진다.
Governance and Audit Logs
정책이 어떤 에이전트가 어떤 컨텍스트를 가져갈 수 있는지 정하고, 모든 요청이 기록된다. Zep Cloud는 SOC 2 Type II와 HIPAA BAA를 갖추었고 엔터프라이즈 조건에서 VPC 배포나 자체 암호화 키를 선택할 수 있다. 규제가 강한 구매자가 단순 메모리 라이브러리 대신 Zep을 고르는 이유가 여기에 있다.
Integrations and MCP
SDK 외에 웹훅, 사용자 정의 엔티티와 관계 유형, 옵저베이션, Claude Code와 Cursor용 Context MCP Server를 제공한다. 플랫폼을 떠받치는 그래프 엔진 Graphiti는 오픈소스라 계약 전에 검색 로직을 읽어볼 수 있다.
장단점
장점
- 사실에 날짜가 붙어 오래된 정보가 프롬프트에 들어가지 않는다. 벡터 RAG가 가장 취약한 지점이다.
- 에이전트 메모리 API가 사용자, 스레드, 문서를 함께 다뤄 저장 계층 개발을 몇 달치 던다.
- Zep 설명대로 툴 호출보다 토큰 사용이 크게 줄고, 모델 비용에 바로 반영된다.
- 정책과 감사 로그가 있으면 심사에서 "에이전트가 무엇을 봤는가"에 근거를 대답할 수 있다.
- Python, TypeScript, Go SDK와 MCP 서버가 갖춰져 흔한 에이전트 스택에 붙는다.
단점
- 개발자용 인프라라 엔지니어 지원이 없는 제품 팀은 그대로 쓰기 어렵다.
- 크레딧 과금이라 그래프 쓰기가 많거나 검색이 잦으면 표시된 요금제보다 비싸진다.
- 검색 품질은 수집 설계를 따른다. 엔티티 이름이 엉성하면 그래프가 어지러워지고 답변도 약해진다.
- 최종 사용자용 앱도 대시보드도 없다. 고객 화면은 모두 직접 만들어야 한다.
자주 묻는 질문
Zep AI는 AI 에이전트에 기억과 컨텍스트를 준다. 대화, 문서, 업무 레코드를 수집해 날짜가 붙은 사실 그래프를 만들고 요청 시점에 과업이 필요로 하는 컨텍스트를 돌려준다. 같은 사용자를 여러 세션에 걸쳐 응대하는 어시스턴트에서 주로 쓴다.
관련 콘텐츠
Zep AI와 관련된 도구, 스킬, 아티클을 살펴보세요.
Zep AI 대안
Knocket
Knocket (Tencent RTC team) · 생산성 · 비즈니스 · 챗봇Knocket은 무료 라이브 채팅과 연락처 페이지 도구다. 방문자는 웹사이트, 앱, 공유 링크에서 메시지를 보내고, 운영자는 텔레그램이나 하나의 받은편지함에서 답한다.
Agibot
Agibot · 생산성 · AI 어시스턴트 · 챗봇Agibot은 Mac용 개인 AI 에이전트다. 창을 닫아도 계속 동작하고 예약 루틴을 실행하며, 자체 API 키로 Telegram이나 Slack에서 명령을 받는다.
Melete
Melete · 생산성 · AI 어시스턴트 · 챗봇Melete는 팀용 AI 워크스페이스다. 에이전트가 Slack, Notion, Linear, GitHub에서 조사하고 초안을 쓰고 실행하며, 공유 메모리와 승인 절차가 사람의 통제를 유지한다.