Arch

Arch est au fond une passerelle d'IA Envoy. Le plan de données tourne sur Envoy, le proxy derrière une large part de l'infrastructure cloud moderne. Cela compte. Pour les équipes qui exploitent déjà Envoy, le modèle opérationnel et les points d'extension sont familiers. Pour les autres, cela signifie que la couche de routage et de proxy a fait ses preuves, plutôt que d'être artisanale.

Arch expose un endpoint compatible OpenAI qui place plusieurs fournisseurs devant vous à la fois. Vous pouvez router par nom exact de modèle, par alias sémantique, ou laisser la passerelle choisir seule selon vos préférences déclarées. Il agit comme un routeur de LLM léger que vous configurez, et non que vous codez. Changer de fournisseur, c'est un changement de configuration. Pas de réécriture. Pas une seule ligne de code applicatif ne bouge.

Cessez d'écrire des classifieurs d'intention à la main. Vous décrivez ce que fait chaque agent en langage naturel et vous laissez l'orchestrateur d'Arch décider où va un prompt, la partie que la plupart des équipes sous-estiment, car le routage écrit à la main casse dès que vous ajoutez un agent que personne n'avait prévu. Ajouter un nouvel agent se résume à ajouter une ligne à la configuration puis à redémarrer, sans toucher à votre code de routage. Pas de réécriture de routage. Juste une nouvelle entrée.

Le plan de données tourne sur Envoy, le proxy derrière une large part de l'infrastructure cloud moderne. Pour les équipes qui exploitent déjà Envoy, le modèle opérationnel et les points d'extension sont familiers. Pour les autres, cela signifie que la couche de routage et de proxy a fait ses preuves, plutôt que d'être artisanale.

Les chaînes de filtres vous laissent rattacher des politiques de modération, une protection contre le jailbreak et des crochets de mémoire en un seul endroit cohérent que chaque agent hérite automatiquement. Vous écrivez la politique une fois et elle s'applique à tous les agents, ce qui vaut mieux que de disperser les contrôles de sûreté dans chaque service. La sûreté tient en un seul endroit. C'est tout l'intérêt.

Arch capture les signaux agentiques ainsi que les traces et métriques OpenTelemetry sans que vous ajoutiez d'instrumentation. Suivez le trafic en direct avec planoai obs, ou creusez une seule requête lente avec planoai trace pour voir quel saut a consommé le temps. Requête lente ? Une commande vous dit pourquoi.

Au-delà du routage, Arch peut transformer un prompt en langage naturel en un appel d'API structuré et validé grâce aux prompt targets. Ce support est obsolète depuis la v0.4.22 au profit des agents, les nouveaux projets devraient donc s'appuyer sur la voie des agents, tandis que les configurations existantes qui dépendent déjà des prompt targets pour des appels d'API déterministes continuent de fonctionner pour l'instant.

Vos agents restent de simples services HTTP qui implémentent l'endpoint chat completions d'OpenAI. Écrivez-les en Python, JavaScript ou n'importe quelle stack, et Arch gère la boucle externe de routage, de séquencement et d'accès aux modèles autour d'eux, ce qui veut dire que vous n'avez jamais à réécrire un agent simplement parce que le framework en dessous a changé d'avis.