Arch

O Arch é, no fundo, um gateway de IA Envoy. O plano de dados roda sobre o Envoy, o proxy que está por trás de boa parte da infraestrutura de nuvem moderna. Isso importa. Para equipes que já operam o Envoy, o modelo operacional e os pontos de extensão soam familiares. Para as demais, significa que a camada de roteamento e proxy é testada em batalha, em vez de caseira.

O Arch expõe um endpoint compatível com OpenAI que fica na frente de vários provedores ao mesmo tempo. Você pode rotear pelo nome exato do modelo, por um alias semântico, ou deixar o gateway escolher sozinho com base nas suas preferências declaradas. Ele age como um roteador de LLM leve que você configura, e não que você programa. Trocar de provedor é uma mudança de configuração. Sem reescrita. Nem uma linha de código da sua app se move.

Pare de escrever classificadores de intenção na mão. Você descreve o que cada agente faz em linguagem natural e deixa o orquestrador do Arch decidir para onde vai um prompt, que é a parte que mais equipes subestimam, porque o roteamento feito na mão quebra no momento em que você adiciona um agente que ninguém planejou. Adicionar um agente novo é questão de somar uma linha à configuração e reiniciar, sem mexer no seu código de roteamento. Sem reescrita de roteamento. Só uma entrada nova.

O plano de dados roda sobre o Envoy, o proxy que está por trás de boa parte da infraestrutura de nuvem moderna. Para equipes que já operam o Envoy, o modelo operacional e os pontos de extensão soam familiares. Para as demais, significa que a camada de roteamento e proxy é testada em batalha, em vez de caseira.

As cadeias de filtros deixam você anexar políticas de moderação, proteção contra jailbreak e ganchos de memória em um único lugar consistente que todo agente herda automaticamente. Você escreve a política uma vez e ela vale para todos os agentes, o que é melhor do que espalhar verificações de segurança por cada serviço. A segurança mora em um só lugar. É esse o ponto.

O Arch captura sinais agênticos e rastreamentos e métricas do OpenTelemetry sem você adicionar instrumentação. Acompanhe o tráfego ao vivo com planoai obs, ou investigue uma única requisição lenta com planoai trace para ver qual salto consumiu o tempo. Requisição lenta? Um comando diz o porquê.

Além do roteamento, o Arch consegue transformar um prompt em linguagem natural em uma chamada de API estruturada e validada por meio dos prompt targets. Esse suporte está obsoleto desde a v0.4.22 em favor dos agentes, então projetos novos devem se apoiar no caminho dos agentes, enquanto configurações existentes que já dependem de prompt targets para chamadas de API determinísticas seguem funcionando por enquanto.

Seus agentes continuam como serviços HTTP simples que implementam o endpoint de chat completions da OpenAI. Escreva em Python, JavaScript ou qualquer stack que quiser, e o Arch cuida do laço externo de roteamento, sequenciamento e acesso a modelos em volta deles, o que significa que você nunca precisa reescrever um agente só porque o framework por baixo mudou de ideia.