Agihalo

Agihalo는 Gemini와 GPT 옵션을 포함한 지원 모델로 단일 엔드포인트를 통해 요청을 라우팅한다. Gemini API와 OpenAI 형식을 구사하므로 제공자의 고유 요청 구조를 유지한다. 주요 변경점은 베이스 URL이다. 새 모델을 추가하거나 제공자를 바꿀 때 통합 작업이 줄어든다.

에이전트는 Agihalo의 자율 흐름을 떠받치는 결제 프로토콜인 X402를 통해 자기 모델 사용량을 USDC로 결제할 수 있다. 에이전트가 호출을 요청하고 결제하며 지원 경로를 스스로 재시도한다. 에이전트를 상시 사람 감독 없이 돌리고 싶은 팀에게 이것이 제품의 핵심이다.

무제한의 API 키를 발급하고 각각에 한도를 부여할 수 있어, 비용이 공용 풀이 아니라 특정 에이전트에 묶인다. 실시간 사용 추적은 유형별 호출량과 비용을 보여 준다. 한 에이전트가 제멋대로 굴 때 유용하다. 추측하지 않고 빠르게 찾아낸다.

Agihalo는 프로젝트 단위로 범위가 정해진 장기 메모리를 갖춰, 에이전트가 세션을 넘어 맥락을 나른다. 메모리가 프로젝트별로 격리되어 같은 계정이 서로 무관한 제품을 운영해도 데이터가 섞이지 않는다. 교차 오염이 없다.

이전 경로는 의도적으로 작다. 기존 OpenAI 클라이언트를 Agihalo의 베이스 URL로 향하게 하고 요청 구조의 나머지는 유지한다. 팀은 대개 애플리케이션 로직을 건드리지 않아도 된다. 몇 주짜리 프로젝트가 반나절로 줄어든다.

대시보드는 유형별 API 호출량, 일간과 월간 수익 수치, 비용 내역을 추적한다. 어떤 에이전트와 모델이 지출을 끌어올리는지 실시간으로 보여 준다. 여러 에이전트가 동시에 돌 때 중요하다. 없으면 비용이 뒤섞인다.

Agihalo는 에이전트가 sub-LLM 시스템을 통해 자기 LLM 크레딧을 관리하고 충전하게 한다. 핵심은 연속성이다. 누군가 잔액을 지켜보지 않아도 에이전트는 밤낮없이 계속 돈다. 데모와 밤새 켜 두는 것의 차이가 여기 있다.