Arch
Katanemo · 챗봇 · 프롬프트
Arch는 현재 Plano라는 브랜드로 나오는, 에이전트형 앱을 만드는 개발자를 위한 오픈소스 AI 게이트웨이이자 데이터 플레인이다. LLM 트래픽을 라우팅하고 에이전트를 오케스트레이션하며 가드레일을 더한다.
Arch 소개
Arch란 무엇인가
Arch는 Envoy 위에 세워진 AI 네이티브 프록시 서버로, 앱과 그 앱이 호출하는 LLM 제공자 사이에 자리한다. 프롬프팅과 API 연동을 위한 지능형 레이어 7 게이트웨이로 시작해 에이전트형 앱을 위한 완전한 데이터 플레인으로 성장했다. 프로젝트는 이제 Katanemo의 같은 팀이 Plano라는 이름으로 내놓고 있으며, 예전 Arch 저장소는 그쪽으로 리디렉션된다.
발상은 단순하다. 에이전트 데모를 프로덕션으로 옮기면 제품 로직과 아무 관련 없는 배관 코드를 잔뜩 쓰게 된다. 알맞은 에이전트를 고르는 의도 분류기, 각 API의 특이점을 매끄럽게 다듬는 제공자 어댑터, 그리고 영원히 유지보수할 서비스마다 붙는 추적 훅이 그렇다. Arch는 그 작업을 코드베이스 밖으로 빼내 YAML 파일 하나로 설정하는 단일 프로세스 외부 계층에 담는다. 파일 하나면 된다.
가입해서 쓰는 호스팅 SaaS가 아니다. CLI를 설치하고 자신의 머신이나 서버에서 실행하며 자신의 API 키를 넣는다. 테스트 중에는 모델 라우팅 계층을 무료로 호스팅해 주길 바라는가? Plano 모델군은 미국 중부 공유 리전에서 돌지만 프로덕션 트래픽은 직접 호스팅해야 한다.
시작하기
- Python 3.10 이상이 있는지 확인한다. Arch는 Linux(x86_64, aarch64)와 macOS Apple Silicon에서 네이티브로 돌며 Docker는 선택 사항이다.
uv tool install planoai또는pip install planoai로 CLI를 설치하고 실행되는지 확인한다.- 모델 제공자, 에이전트, 리스너를 나열한
plano_config.yaml파일을 작성한다. OPENAI_API_KEY나ANTHROPIC_API_KEY같은 제공자 키를 내보내거나.env파일에 넣는다.planoai up plano_config.yaml로 게이트웨이를 시작한 뒤 그것이 여는 로컬 포트로 요청을 보낸다.
제품 정보
Arch의 요금, 지원 플랫폼, 성능을 한눈에 확인해 보세요.
추천 대상
이 도구가 가장 잘 맞는 사용자, 작업, 상황입니다.
사용자
- 백엔드 및 플랫폼 엔지니어
- 빠르게 출시하는 AI 스타트업 팀
- 이미 Envoy를 쓰는 팀
작업
- 프롬프트를 알맞은 에이전트로 라우팅하기
- LLM 접근 표준화하기
- 안전과 검열 더하기
- 평가용 추적 수집하기
활용 상황
- 멀티 에이전트 어시스턴트
- 모델 비용과 지연 조율
- 공유 풀에서의 초기 프로토타이핑
주요 기능
Envoy 위에 구축
Arch는 본질적으로 Envoy AI 게이트웨이다. 데이터 플레인은 현대 클라우드 인프라의 상당 부분을 떠받치는 프록시인 Envoy 위에서 돈다. 이 점이 중요하다. 이미 Envoy를 운영하는 팀에게는 운영 모델과 확장 지점이 익숙하다. 그 밖의 팀에게는 라우팅과 프록시 계층이 자체 제작이 아니라 실전에서 검증됐다는 뜻이다.
LLM 라우터로서의 똑똑한 라우팅
Arch는 여러 제공자를 한 번에 앞세우는 OpenAI 호환 엔드포인트를 노출한다. 정확한 모델 이름으로 라우팅하거나 의미 별칭으로 라우팅하거나, 밝힌 선호에 따라 게이트웨이가 자동으로 고르게 할 수 있다. 코드가 아니라 설정으로 다루는 가벼운 LLM 라우터로 작동한다. 제공자 전환은 설정 변경이다. 다시 쓰지 않는다. 앱 코드는 한 줄도 움직이지 않는다.
에이전트 오케스트레이션
의도 분류기를 직접 쓰는 일은 그만둔다. 각 에이전트가 무엇을 하는지 자연어로 설명하면 프롬프트가 어디로 갈지 Arch의 오케스트레이터가 정한다. 여기가 대부분의 팀이 과소평가하는 부분인데, 손으로 짠 라우팅은 아무도 계획하지 않은 에이전트를 추가하는 순간 깨지기 때문이다. 새 에이전트 추가는 설정에 한 줄을 더하고 재시작하는 일이다. 라우팅 코드는 건드리지 않는다. 라우팅을 다시 쓰지 않는다. 새 항목 하나만 늘어난다.
Envoy 위에 구축
데이터 플레인은 현대 클라우드 인프라의 상당 부분을 떠받치는 프록시인 Envoy 위에서 돈다. 이미 Envoy를 운영하는 팀에게는 운영 모델과 확장 지점이 익숙하다. 그 밖의 팀에게는 라우팅과 프록시 계층이 자체 제작이 아니라 실전에서 검증됐다는 뜻이다.
가드레일과 필터 체인
필터 체인은 검열 정책, 탈옥 방지, 메모리 훅을 모든 에이전트가 자동으로 물려받는 하나의 일관된 자리에 붙이게 해준다. 정책을 한 번 쓰면 모든 에이전트에 적용된다. 안전 검사를 서비스마다 흩뿌리는 것보다 낫다. 안전은 한곳에 산다. 바로 그게 핵심이다.
코드 없는 관측성
Arch는 계측을 더하지 않고도 에이전트 신호와 OpenTelemetry 추적 및 지표를 수집한다. planoai obs로 실시간 트래픽을 보거나, planoai trace로 느린 요청 하나를 파고들어 어느 홉이 시간을 잡아먹었는지 확인한다. 느린 요청인가? 명령 하나가 이유를 알려준다.
모델 민첩성과 prompt target
라우팅을 넘어 Arch는 prompt target을 통해 자연어 프롬프트를 구조화되고 검증된 API 호출로 바꿀 수 있다. 이 지원은 v0.4.22부터 에이전트를 우선하는 방향으로 폐기됐으므로 새 프로젝트는 에이전트 경로에 기대야 한다. 결정적 API 호출을 위해 이미 prompt target에 의존하는 기존 설정은 당분간 계속 작동한다.
언어와 프레임워크의 자유
에이전트는 OpenAI 채팅 완성 엔드포인트를 구현하는 평범한 HTTP 서비스로 남는다. Python, JavaScript, 원하는 스택으로 작성하면 Arch가 그 바깥의 라우팅, 순서 배열, 모델 접근 루프를 맡는다. 아래 프레임워크가 마음을 바꿨다는 이유만으로 에이전트를 다시 쓸 필요가 없다는 뜻이다.
장단점
장점
- Apache 2.0으로 오픈소스이며 라이선스 비용이 없고 소스에 완전히 접근할 수 있다.
- 설정 파일 하나가 손으로 쓴 의도 분류기, 제공자 어댑터, 추적용 접착 코드를 대체한다.
- 제공자에 종속되지 않는 라우팅 덕분에 앱 코드를 건드리지 않고 모델 사이를 옮길 수 있다.
- 자동 OpenTelemetry 추적이 수동 계측 작업을 상당히 줄여준다.
- Docker나 Rust 툴체인 없이 네이티브로 돈다. 설정이 빠르다.
단점
- 네이티브 플랫폼이 Linux와 macOS Apple Silicon으로 제한돼 Windows 사용자는 Docker 경로로 밀린다.
- 호스팅 프로덕션 제공이 없어 게이트웨이 운영과 확장은 직접 책임져야 한다.
- prompt target이 폐기됐으므로 옛 튜토리얼을 따르는 사람은 막다른 길을 만난다.
- 무료 호스팅 오케스트레이터 모델은 미국 중부 공유 리전에서 돌아 지연이나 데이터에 민감한 팀은 더 일찍 자체 호스팅해야 한다.
자주 묻는 질문
Arch는 앱과 그 앱이 호출하는 LLM 제공자 사이에 자리하는 AI 게이트웨이다. 모델 라우팅, 멀티 에이전트 오케스트레이션, 가드레일, 추적을 맡아 제품 로직을 자기 코드에 남겨 두게 해준다. 에이전트형 애플리케이션을 만드는 개발자를 겨냥하며 최종 사용자용이 아니다.
관련 콘텐츠
Arch와 관련된 도구, 스킬, 아티클을 살펴보세요.
Arch 대안
Emma AI
Emma AI · 비즈니스 · 챗봇Emma AI는 자체 비즈니스 데이터에서 질문에 답하는 맞춤형 어시스턴트를 만드는 노코드 AI 어시스턴트 빌더다. 팀이 이미 쓰는 Slack, Notion, Google Sheets, Zendesk 같은 도구를 연결하고, 문서를 업로드하거나, Emma가 문답 과정으로 어시스턴트를 학습시키게 한다. 빠르다. 만든 어시스턴트는 특정 팀, 프로젝트, 워크플로에 한정할 수 있어서 마케팅용 어시스턴트와 회계용 어시스턴트가 같은 출처를 보는 일은 없다.
Chatgbot
Chatgbot · 이미지 · 생산성 · 챗봇Chatgbot은 OpenAI의 GPT 모델, Anthropic의 Claude Sonnet, 그리고 GLM과 Qwen 같은 오픈소스 선택지를 하나의 로그인 뒤에 모은 멀티모델 AI 채팅 플랫폼이다. 여러 구독을 오가며 씨름할 필요 없이 대화마다 모델을 고르고, PDF를 올려 질문하고, 이미지를 생성하고, 웹을 검색한다. 이 모든 것이 하나의 인터페이스와 하나의 멤버십 안에서 이루어진다.
Validator AI
ValidatorAI · 비즈니스 · 챗봇Validator AI는 무언가를 만들기 전에 명확한 답을 원하는 창업자를 위한 AI 아이디어 검증 도구다. 스타트업 아이디어 검증기와 AI 스타트업 멘토를 하나로 합친 셈이다. 자신의 스타트업, 제품, 소규모 사업 구상을 설명하면 도구가 점수를 매기고, 경쟁 구도를 분석하고, 이상적인 고객이 누구인지 제안하고, 다음 단계를 짚어준다. 수십만 건의 창업자 세션에서 모은 행동 데이터를 토대로 한다. 핵심 점검은 무료다. 이미 출시한 회사가 아니라, 가장 이른 단계에서 구상을 시험하는 1인 창업자, 인디 개발자, 소규모 팀에 맞는다.