Hopscotch AI

모델 ID는 제공자/모델 형식이라 openai/gpt-6.1-sol과 anthropic/claude-sonnet-5-5가 같은 멀티모델 API로 들어와 같은 잔액에서 빠진다. 제공자를 붙이지 않은 모델 이름은 추측하지 않고 거절한다. 카탈로그는 살아 있어서 모델 등장과 은퇴가 Hopscotch가 손으로 관리하는 목록이 아니라 제공자 일정을 따른다.

바꾸는 설정은 베이스 URL, API 키, 모델 이름 세 가지다. 채팅 완성용 OpenAI SDK 코드는 그대로 돌고, 게이트웨이는 Responses 형식과 옛 completions 엔드포인트, Anthropic SDK용 Messages 프로토콜도 받는다. 스트리밍, 도구 호출, 구조화 출력, 이미지 입력, 추론 토큰은 고른 모델이 지원하는 범위에서 그대로 전달된다.

키 하나, 사람 한 명, 워크스페이스 전체에 상한을 걸 수 있고 계정이 분당 얼마를 쓸지도 정한다. 기본값은 50달러다. 한도를 넘는 요청은 거절된다. 소유자는 모든 지출을 한 번에 멈추는 스위치도 갖는다. 에이전트가 루프에 빠졌을 때 새벽에 디버깅하는 대신 멈추고 싶은 순간에 쓸모가 있다.

라우팅 프로필에는 주 모델과, 시도할 순서대로 예비 모델을 적는다. Hopscotch는 먼저 재시도하고 다음에 목록을 따라 내려가며, 채팅 요청은 다른 제공자로 마지막 시도를 한다. 모델 폴백이 지정하지 않은 모델로 몰래 바꾸는 일은 없다.

자체 키는 Growth 요금제부터 쓸 수 있다. 이미 결제 중인 OpenAI나 Anthropic 자격 증명을 넣으면 그 제공자 요청은 내 계정으로 돌고 청구는 제공자가 직접 한다. Hopscotch는 이 호출에 비용을 붙이지 않고 한도와 로그는 그대로 적용한다. 내 키가 실패해도 공용 키로 조용히 넘어가지 않는다.

모든 요청이 모델, 제공자, 토큰 수, 비용, 속도, 결과와 함께 기록된다. 같은 숫자를 사용량 조회 엔드포인트로 코드에서도 받을 수 있어 비용 대시보드에 두 번째 파이프라인이 필요 없다. 실패한 요청은 청구하지 않는다.

가드레일은 키 단위로 붙고 지출 상한, 보존 규칙, 모델이 프롬프트를 보기 전 검사를 묶는다. 프롬프트와 응답은 기본이 제로 데이터 보존이고, 기록에는 주변 메타데이터만 남는다.