Keywords AI
Respan (formerly Keywords AI) · 코딩 · 기타
Keywords AI는 현재 Respan이라는 이름으로 나오는 LLM 관측성 플랫폼이자 AI 게이트웨이다. 하나의 엔드포인트로 1,000개 넘는 모델을 라우팅하고 에이전트 실행을 추적한다.
Keywords AI 소개
What Is Keywords AI
Keywords AI는 LLM 관측성 플랫폼이고 동시에 AI 게이트웨이로 동작한다. 앱과 모델 제공자 사이에 자리 잡고, 이미 쓰던 SDK를 하나의 엔드포인트로 향하게 하면 모든 요청이 들여다볼 수 있는 추적으로 바뀐다. 회사는 2026년 2월에 제품 이름을 Respan으로 바꿨지만, keywordsai.co 도메인은 아직 옛 이름에 응답한다.
노리는 것은 배포와 확인 사이의 고리를 닫는 일이다. 대부분의 팀은 뭔가 터진 뒤에야 로그를 붙이고 원인을 짐작한다. Keywords AI는 모델 호출, 도구 실행, 검색, 에이전트 턴을 각각 스팬으로 기록한다. LLM 추적과 모델 라우팅이 같은 플랫폼에 있어서 비용과 지연, 오류가 어느 단계의 문제인지 가리키게 한다. 그 위에 변경을 배포하기 전 테스트 세트로 출력을 채점하는 평가 파이프라인이 얹힌다. 회사 설명에 따르면 이 플랫폼은 80조 토큰 넘게 처리했다.
한계는 범위에 있다. AI 제품을 만드는 사람을 위한 인프라일 뿐, 채팅 앱도 글쓰기 도구도 아니다. 모델 API를 한 번도 호출하지 않는다면 여기에 쓸 게 없다. 설정도 SDK와 API 키를 다룰 줄 안다고 전제한다.
Getting Started
- platform.respan.ai에서 무료 계정을 만든다. 신용카드는 필요 없다.
- 대시보드에서 워크스페이스 API 키를 복사한다.
- 기존 OpenAI SDK의 베이스 URL과 키를 바꿔 Keywords AI 게이트웨이로 향하게 한다.
- 앱을 평소처럼 실행한다. 요청이 비용과 지연, 토큰 수를 붙인 추적으로 나타난다.
- 출력을 채점하고 싶으면 대시보드에서 평가기나 데이터셋을 더하고, 변경을 내보낼 단계가 되면 프롬프트를 버전 관리에 올린다.
제품 정보
Keywords AI의 요금, 지원 플랫폼, 성능을 한눈에 확인해 보세요.
추천 대상
이 도구가 가장 잘 맞는 사용자, 작업, 상황입니다.
사용자
- 에이전트를 만드는 AI 엔지니어
- 빠르게 내보내는 초기 팀
- AI 기능을 맡은 프로덕트 매니저
작업
- 실패한 에이전트 실행 디버깅
- 두 프롬프트 버전 비교
- 모델 지출 통제
- 폴백 체인 추가
활용 상황
- 시간당 100만 건 통화를 받는 음성 에이전트
- 강의 PDF로만 답하는 RAG 튜터
- 같은 티켓에 다른 답을 주는 지원 봇
주요 기능
1,000개 넘는 모델을 잇는 통합 게이트웨이
요청을 하나의 엔드포인트로 보내면 주요 제공사 모델에 닿는다. 모델 이름에서 한 단어만 바꾸면 갈아탄다. 내장 캐시는 반복 요청을 즉시 돌려주고, 키별 예산이나 속도 제한은 불어나는 지출이 청구서에 닿기 전에 막는다.
자동 폴백과 재시도
되돌아갈 모델을 나열해 두면 게이트웨이는 하나가 실패하거나 속도 제한에 걸리는 순간 다음으로 넘어간다. 회사 자체 대시보드에서 폴백 체인은 99.99%에 가까운 가동률을 유지하고, 단일 제공사는 그보다 훨씬 아래에 머문다. 장애로 앱이 통째로 멈추는 상황을 피하려면 이 차이가 크다.
종단 간 에이전트 추적
모델 호출, 도구 실행, 검색, 에이전트 턴이 하나의 추적 안에서 각각 스팬이 된다. 각 스팬은 모델, 지연, 비용, 토큰 수, 정확한 입출력을 품는다. 로그 벽을 읽는 대신 실행이 어디서 시간과 돈을 썼는지 정확히 파악한다.
관측성 대시보드와 경보
요청, 오류, 비용, 지연, 토큰이 한 장의 대시보드에 모이고 모델, 키, 사용자로 잘린다. 어떤 창에서든 어떤 지표든 지켜보다가 직접 정한 임계값을 넘는 순간 Slack, 이메일, 웹훅으로 경보가 온다. 오류 추적은 장애를 묶고 각각의 뒤에 있는 스팬을 보여준다.
LLM 심판, 코드 검사, 사람 검토를 묶은 평가
평가기 하나가 LLM 심판, 결정적 코드 검사, 사람 검토를 어떤 출력에 대한 하나의 점수로 묶는다. 테스트 케이스는 필터와 표본 비율로 프로덕션 로그에서 바로 끌어오거나 CSV로 올릴 수 있어서, 모든 케이스가 사용자가 실제로 보낸 것이 된다. 같은 평가기를 실시간 트래픽에 돌려 퇴행을 즉시 잡을 수도 있다.
프롬프트 관리와 버전 관리
프롬프트는 버전 이력, 원클릭 배포, 릴리스 관리가 있는 협업 에디터에 산다. 모델 플레이그라운드와 Jinja 템플릿으로 내보내기 전에 변경을 시험하고, 워크스페이스를 공유해도 비공개 프롬프트는 동료 눈에 띄지 않는다.
장단점
장점
- 엔드포인트 하나가 제공사별 개별 연동을 대체해서 AI 게이트웨이 교체가 코드 한 줄로 끝난다.
- 추적, 평가, 모니터링이 한 플랫폼에 있어서 팀이 이어 붙일 도구 수가 줄어든다.
- 무료 플랜이 100k 로그, 1k 점수, 5개 데이터셋이 딸린 전체 플랫폼이라 돈 내기 전에 가치를 입증할 수 있다.
- 자동 폴백이 단일 제공사가 죽거나 속도 제한에 걸려도 에이전트를 계속 돌린다.
- ISO 27001, SOC 2, GDPR, HIPAA 인증을 받았고 의료 팀용 BAA도 제공한다.
단점
- 개발자 인프라라서 코드와 API 키가 없는 사람은 아예 쓸 수 없다.
- 무료 한도를 넘으면 사용량 기반으로 과금되고, 추가 로그는 100k당 $8, 추가 점수는 1k당 $1이라 볼륨이 크면 쌓인다.
- 2026년 2월 Respan으로의 개명으로 이름 두 개가 돌아다녀서 문서와 가격을 찾는 사람을 헷갈리게 한다.
자주 묻는 질문
Keywords AI는 AI 앱을 라우팅하고 모니터링하고 평가하는 데 쓴다. 모델 요청을 게이트웨이로 보내고, 같은 플랫폼에서 에이전트 실행을 추적하고 테스트 세트로 출력을 채점하고 비용과 지연, 오류를 대시보드에서 지켜본다. 대상은 AI 제품을 만드는 사람이고, 일상적인 채팅 사용자가 아니다.
관련 콘텐츠
Keywords AI와 관련된 도구, 스킬, 아티클을 살펴보세요.
Keywords AI 대안
Forefront
Forefront · 코딩Forefront는 오픈소스 AI로 무언가를 만드는 웹 플랫폼이다. 대표적인 오픈소스 언어 모델을 자신의 데이터로 미세 조정하고, 성능을 평가하고, API로 실행하거나 내보내 직접 호스팅할 수 있다. 폐쇄형 플랫폼의 편의를 원하면서도 모델과 데이터의 소유권은 놓지 않으려는 개발자가 대상이다.
Startkit
StartKit.AI · 코딩Startkit은 AI SaaS와 AI 래퍼 제품을 만들기 위한 보일러플레이트다. 지루한 부분을 미리 연결해 둔 AI 스타트업 보일러플레이트라고 생각하면 된다. 인증, Stripe와 Lemon Squeezy 결제, 사용량 제한, 트랜잭션 이메일, 그리고 OpenAI, Anthropic, Groq, Llama와 통신하는 AI API 스타터 키트가 포함된다. 저장소를 복제하고 가격을 정한 뒤 사용자가 실제로 돈을 내는 부분에 착수하면 된다. React와 Tailwind 위의 Next.js로 만들어졌기 때문에 보일러플레이트 코드의 상당 부분이 이미 익숙하게 느껴진다.
Testim
Tricentis · 코딩Testim은 웹, 모바일, Salesforce 애플리케이션 전반에 걸쳐 엔드투엔드 테스트를 만들고 실행하는 AI 기반 테스트 자동화 플랫폼이다. 머신러닝에 기대어 인터페이스가 바뀌어도 테스트를 안정적으로 유지하므로, 팀은 깨진 셀렉터를 고치는 데 쓰는 시간을 줄인다. 오늘부터 쓸 수 있는 자동화 테스트 도구치고 나쁘지 않다. 브라우저에서 동작을 녹화해 테스트를 만들고, 더 세밀한 제어가 필요하면 JavaScript를 더한다. 바쁜 QA 팀에게 탄탄한 선택이다.