Arch
Katanemo · Chatbot · Prompts
Arch, jetzt unter der Marke Plano, ist ein Open-Source-KI-Gateway und eine Datenebene für Entwickler agentischer Apps. Es routet LLM-Verkehr, orchestriert Agenten und ergänzt Schutzmechanismen.
Über Arch
Was ist Arch
Arch ist ein KI-nativer Proxy-Server auf Basis von Envoy, der zwischen Ihrer Anwendung und den LLM-Anbietern sitzt, die sie aufruft. Er begann als intelligentes Layer-7-Gateway für Prompting und API-Integration und wuchs dann zu einer vollen Datenebene für agentische Apps heran. Das Projekt erscheint heute unter dem Namen Plano, vom selben Team bei Katanemo, und das alte Arch-Repository leitet dorthin weiter.
Die Idee ist einfach. Wenn Sie eine Agenten-Demo in die Produktion bringen, schreiben Sie am Ende einen Haufen Infrastruktur, der nichts mit Ihrer Produktlogik zu tun hat: Intent-Klassifizierer, um den richtigen Agenten zu wählen, Anbieter-Adapter, um API-Eigenheiten zu glätten, und Tracing-Hooks in jedem Dienst, die Sie für immer pflegen. Arch zieht diese Arbeit aus Ihrer Codebasis heraus und packt sie in eine einzige Out-of-Process-Schicht, die Sie mit einer YAML-Datei konfigurieren. Eine einzige Datei.
Es ist kein gehostetes SaaS, für das Sie sich anmelden. Sie installieren eine CLI, führen sie auf Ihrem eigenen Rechner oder Ihren Servern aus und bringen Ihre eigenen API-Schlüssel mit. Sie möchten die Modell-Routing-Schicht während der Tests kostenlos gehostet? Die Plano-Modellfamilie läuft in einer geteilten Region in der US-Mitte, aber den Produktionsverkehr hosten Sie selbst.
Erste Schritte
- Stellen Sie sicher, dass Sie Python 3.10 oder neuer haben. Arch läuft nativ auf Linux (x86_64, aarch64) und macOS Apple Silicon; Docker ist optional.
- Installieren Sie die CLI mit
uv tool install planoaioderpip install planoaiund prüfen Sie, ob sie startet. - Schreiben Sie eine Datei
plano_config.yamlmit Ihren Modellanbietern, Agenten und Listenern. - Exportieren Sie Ihre Anbieter-Schlüssel wie
OPENAI_API_KEYundANTHROPIC_API_KEY, oder legen Sie sie in eine.env-Datei. - Starten Sie das Gateway mit
planoai up plano_config.yamlund senden Sie dann Anfragen an den lokalen Port, den es öffnet.
Produktinformationen
Ein kurzer Überblick über Preise, unterstützte Plattformen und die Leistung von Arch.
Am besten für
Die Nutzer, Aufgaben und Szenarien, für die dieses Tool am besten passt.
Nutzer
- Backend- und Plattform-Ingenieure
- KI-Startup-Teams, die schnell liefern
- Teams, die bereits auf Envoy setzen
Aufgaben
- Prompts zum richtigen Agenten routen
- LLM-Zugriff vereinheitlichen
- Sicherheit und Moderation ergänzen
- Traces für die Auswertung erfassen
Szenarien
- Multi-Agenten-Assistenten
- Kosten- und Latenzabstimmung der Modelle
- Frühes Prototyping auf einem geteilten Pool
Wichtigste Funktionen
Auf Envoy aufgebaut
Arch ist im Kern ein Envoy-KI-Gateway. Die Datenebene läuft auf Envoy, dem Proxy hinter einem großen Teil der modernen Cloud-Infrastruktur. Das ist wichtig. Für Teams, die Envoy bereits betreiben, fühlen sich Betriebsmodell und Erweiterungspunkte vertraut an. Für alle anderen heißt es, dass die Routing- und Proxy-Schicht praxiserprobt ist und nicht selbst gebaut.
Intelligentes Routing als LLM-Router
Arch stellt einen OpenAI-kompatiblen Endpunkt bereit, der viele Anbieter auf einmal bündelt. Sie können nach exaktem Modellnamen routen, nach einem semantischen Alias, oder das Gateway automatisch nach Ihren angegebenen Vorlieben wählen lassen. Es wirkt wie ein schlanker LLM-Router, den Sie konfigurieren und nicht programmieren. Ein Anbieterwechsel ist eine Konfigurationsänderung. Kein Umbau. Keine einzige Zeile App-Code bewegt sich.
Agenten-Orchestrierung
Schreiben Sie keine Intent-Klassifizierer mehr von Hand. Sie beschreiben in natürlicher Sprache, was jeder Agent tut, und lassen Arcs Orchestrator entscheiden, wohin ein Prompt geht, der Teil, den die meisten Teams unterschätzen, weil handgebautes Routing in dem Moment bricht, in dem Sie einen Agenten hinzufügen, den niemand eingeplant hat. Einen neuen Agenten hinzuzufügen heißt, eine Zeile zur Konfiguration hinzuzufügen und neu zu starten, ohne Ihren Routing-Code zu ändern. Kein Routing-Umbau. Nur ein neuer Eintrag.
Auf Envoy aufgebaut
Die Datenebene läuft auf Envoy, dem Proxy hinter einem großen Teil der modernen Cloud-Infrastruktur. Für Teams, die Envoy bereits betreiben, fühlen sich Betriebsmodell und Erweiterungspunkte vertraut an. Für alle anderen heißt es, dass die Routing- und Proxy-Schicht praxiserprobt ist und nicht selbst gebaut.
Schutzmechanismen und Filterketten
Filterketten lassen Sie Moderationsrichtlinien, Jailbreak-Schutz und Memory-Hooks an einer einheitlichen Stelle anhängen, die jeder Agent automatisch erbt. Sie schreiben die Richtlinie einmal, und sie gilt über alle Agenten hinweg, was besser ist, als Sicherheitsprüfungen über jeden Dienst zu verstreuen. Sicherheit liegt an einem Ort. Das ist der Punkt.
Observability ohne Code
Arch erfasst agentische Signale sowie OpenTelemetry-Traces und -Metriken, ohne dass Sie Instrumentierung hinzufügen. Beobachten Sie Live-Verkehr mit planoai obs, oder untersuchen Sie eine einzelne langsame Anfrage mit planoai trace, um zu sehen, welcher Sprung die Zeit gefressen hat. Langsame Anfrage? Ein Befehl sagt Ihnen warum.
Modell-Agilität und Prompt-Targets
Über das Routing hinaus kann Arch einen Prompt in natürlicher Sprache über Prompt-Targets in einen strukturierten, validierten API-Aufruf verwandeln. Dieser Support ist seit v0.4.22 zugunsten von Agenten veraltet, neue Projekte sollten also auf den Agenten-Pfad setzen, während bestehende Konfigurationen, die bereits auf Prompt-Targets für deterministische API-Aufrufe bauen, vorerst weiterlaufen.
Freiheit bei Sprache und Framework
Ihre Agenten bleiben schlichte HTTP-Dienste, die den Chat-Completions-Endpunkt von OpenAI implementieren. Schreiben Sie sie in Python, JavaScript oder einem beliebigen Stack, und Arch übernimmt die äußere Schleife aus Routing, Sequenzierung und Modellzugriff darum herum, was bedeutet, dass Sie einen Agenten nie neu schreiben müssen, nur weil das Framework darunter seine Meinung geändert hat.
Vor- und Nachteile
Vorteile
- Open Source unter Apache 2.0, ohne Lizenzgebühr und mit vollem Zugriff auf den Quellcode.
- Eine einzige Konfigurationsdatei ersetzt handgeschriebene Intent-Klassifizierer, Anbieter-Adapter und Tracing-Klebstoff.
- Anbieterunabhängiges Routing lässt Sie zwischen Modellen wechseln, ohne den App-Code anzufassen.
- Automatische OpenTelemetry-Traces sparen einen echten Teil manueller Instrumentierungsarbeit.
- Läuft nativ ohne Docker oder Rust-Toolchain. Schnelles Setup.
Nachteile
- Native Plattformen beschränken sich auf Linux und macOS Apple Silicon, Windows-Nutzer werden also auf den Docker-Weg gedrängt.
- Es gibt kein gehostetes Produktionsangebot, Sie sind also selbst für Betrieb und Skalierung des Gateways verantwortlich.
- Prompt-Targets sind veraltet, wer älteren Tutorials folgt, landet in einer Sackgasse.
- Die kostenlos gehosteten Orchestrator-Modelle laufen in einer geteilten Region in der US-Mitte, latenz- oder datensensible Teams müssen also früher selbst hosten.
Häufige Fragen
Arch ist ein KI-Gateway zwischen Ihrer App und den LLM-Anbietern, die sie aufruft. Es übernimmt Modell-Routing, Multi-Agenten-Orchestrierung, Schutzmechanismen und Tracing, damit Sie Ihre Produktlogik in Ihrem eigenen Code behalten. Es richtet sich an Entwickler, die agentische Anwendungen bauen, nicht an Endnutzer.
Ähnliche Inhalte
Entdecke passende Tools, Skills und Artikel zu Arch.
Alternativen zu Arch
Emma AI
Emma AI · Business · ChatbotEmma AI ist ein No-Code-Baukasten für KI-Assistenten, mit dem Sie eigene Assistenten bauen, die Fragen aus Ihren Geschäftsdaten beantworten. Sie verbinden die Tools, die Ihr Team ohnehin nutzt, etwa Slack, Notion, Google Sheets oder Zendesk, laden Dokumente hoch, oder Sie lassen Emma den Assistenten über einen Frage-und-Antwort-Prozess anlernen. Das geht schnell. Jeder Assistent lässt sich auf ein bestimmtes Team, Projekt oder einen Arbeitsablauf begrenzen, sodass ein Marketing-Assistent und ein Buchhaltungs-Assistent nie dieselben Quellen sehen.
Chatgbot
Chatgbot · Bilder · Produktivität · ChatbotChatgbot ist eine multimodale KI-Chat-Plattform, die die GPT-Modelle von OpenAI, Claude Sonnet von Anthropic und Open-Source-Optionen wie GLM und Qwen hinter einem einzigen Login versammelt. Statt zwischen getrennten Abonnements zu jonglieren, wählen Sie ein Modell pro Unterhaltung, laden PDFs hoch, um sie zu befragen, erzeugen Bilder und suchen im Web, alles in einer Oberfläche und mit einer Mitgliedschaft.
Validator AI
ValidatorAI · Business · ChatbotValidator AI ist ein KI-Tool zur Ideenvalidierung für Gründer, die eine klare Antwort wollen, bevor sie etwas bauen. Man kann es als Validator für Startup-Ideen und KI-Startup-Mentor in einem sehen. Du beschreibst dein Startup, dein Produkt oder dein Kleinunternehmen-Konzept, und das Tool bewertet es, analysiert das Wettbewerbsfeld, schlägt vor, wer der ideale Kunde ist, und zeigt nächste Schritte auf. Es stützt sich auf Verhaltensdaten aus Hunderttausenden Gründer-Sitzungen. Die Kernprüfung ist kostenlos. Es passt zu Solo-Gründern, unabhängigen Machern und kleinen Teams, die ein Konzept in der frühesten Phase testen, nicht zu Unternehmen, die bereits gestartet sind.