Arch
Katanemo · チャットボット · プロンプト
Archは現在Planoのブランドで展開する、エージェント型アプリを作る開発者向けのオープンソースAIゲートウェイ兼データプレーン。LLMトラフィックをルーティングし、エージェントを編成し、ガードレールを加える。
Arch について
Archとは何か
ArchはEnvoy上に構築されたAIネイティブなプロキシサーバーで、アプリとそれが呼び出すLLMプロバイダーの間に位置する。プロンプティングとAPI連携のためのインテリジェントなレイヤー7ゲートウェイとして生まれ、その後エージェント型アプリのための完全なデータプレーンへと育った。プロジェクトは現在、Katanemoの同じチームからPlanoという名前で提供されており、旧Archのリポジトリはそこへリダイレクトされる。
考え方は単純だ。エージェントのデモを本番に移すと、製品ロジックとは無関係な配管コードを大量に書くことになる。正しいエージェントを選ぶ意図分類器、各APIの癖をならすプロバイダーアダプター、そして永遠に保守し続けるサービスごとのトレースフック。Archはその作業をコードベースから外へ出し、YAMLファイルで設定する単一のアウトオブプロセス層にまとめる。ファイルは1つだけ。
サインアップするホスト型SaaSではない。CLIをインストールし、自分のマシンやサーバーで動かし、自分のAPIキーを渡す。テスト中はモデルルーティング層を無料でホストしてほしいか。Planoモデル群は米国中部の共有リージョンで動くが、本番トラフィックは自分でホストする。
はじめに
- Python 3.10以降を用意する。ArchはLinux（x86_64、aarch64）とmacOS Apple Siliconでネイティブに動く。Dockerは任意。
uv tool install planoaiまたはpip install planoaiでCLIをインストールし、動作を確認する。- モデルプロバイダー、エージェント、リスナーを並べた
plano_config.yamlを書く。 OPENAI_API_KEYやANTHROPIC_API_KEYなどのプロバイダーキーをエクスポートするか、.envファイルに置く。planoai up plano_config.yamlでゲートウェイを起動し、公開されたローカルポートへリクエストを送る。
AIツール情報
Archの料金、対応プラットフォーム、性能を簡単に確認できます。
こんな人におすすめ
このツールが最も力を発揮するユーザー、タスク、シーン。
ユーザー
- バックエンド／プラットフォームエンジニア：Archはエージェントのルーティング、モデルアクセス、トレースを一箇所に集約する。出荷するエージェントごとに同じミドルウェアを作り直す必要はもうない。
- 速く出荷するAIスタートアップのチーム：オープンソースライセンスと無料のセルフホストにより、小さなチームでもベンダー契約なしに本番へ到達できる。
- すでにEnvoyを使うチーム：Archはそのプロキシ知識を活かすため、プラットフォームエンジニアは新たに覚えずに既存のゲートウェイを拡張できる。
タスク
- プロンプトを正しいエージェントへルーティングする：各エージェントを自然言語で記述し、どのエージェントがリクエストを処理するかは編成モデルに決めさせる。
- LLMアクセスを標準化する：複数のプロバイダーを1つのOpenAI互換エンドポイントに向け、アプリのコードが単一のインターフェースと話すようにする。
- 安全性とモデレーションを加える：手作業でチェックを書き込む代わりに、フィルターチェーンで脱獄対策とモデレーションポリシーを付ける。
- 評価用のトレースを取得する：手動の計装なしに、すべてのエージェントへエンドツーエンドのOpenTelemetryスパンを行き渡らせる。
シーン
- マルチエージェントのアシスタント：1つの会話の中で、天気とフライトの質問を別々のサービスへルーティングする旅行アシスタント。
- モデルのコストと遅延の調整：ワークロードが最先端モデルを必要としないとき、プロバイダーや小さめのモデルへ切り替える。
- 共有プールでの初期プロトタイピング：自前のインフラに踏み切る前に、無料ホストのPlanoモデルでエージェントを試す。
主な機能
Envoy上に構築
Archは本質的にEnvoyのAIゲートウェイだ。データプレーンはEnvoy上で動く。Envoyは現代のクラウドインフラの大部分を支えるプロキシである。ここが効く。すでにEnvoyを運用するチームには、運用モデルも拡張点も馴染み深い。それ以外のチームにとっては、ルーティングとプロキシの層が自家製ではなく実戦で鍛えられているという意味になる。
LLMルーターとしての賢いルーティング
Archは、多数のプロバイダーを一度に前に並べるOpenAI互換エンドポイントを公開する。正確なモデル名でルーティングしてもよいし、意味的なエイリアスでルーティングしてもよいし、宣言した好みに基づいてゲートウェイに自動で選ばせてもよい。コードではなく設定で操る軽量なLLMルーターとして働く。プロバイダーの切り替えは設定変更だ。書き直しはない。アプリのコードは1行も動かない。
エージェント編成
意図分類器を手で書くのはやめよう。各エージェントが何をするかを自然言語で記述し、プロンプトをどこへ送るかはArchの編成役が決める。ここが多くのチームが見落とす部分で、誰も想定していなかったエージェントを追加した瞬間に手作りのルーティングは壊れる。新しいエージェントの追加は、設定に1行足して再起動するだけ。ルーティングのコードは変えない。ルーティングの書き直しはない。新しい項目が1つ増えるだけだ。
Envoy上に構築
データプレーンはEnvoy上で動く。Envoyは現代のクラウドインフラの大部分を支えるプロキシである。すでにEnvoyを運用するチームには、運用モデルも拡張点も馴染み深い。それ以外のチームにとっては、ルーティングとプロキシの層が自家製ではなく実戦で鍛えられているという意味になる。
ガードレールとフィルターチェーン
フィルターチェーンを使えば、モデレーションポリシー、脱獄対策、メモリーフックを、すべてのエージェントが自動で継承する1つの一貫した場所に付けられる。ポリシーを一度書けば全エージェントに適用される。安全チェックをサービスごとに散らすより強い。安全は1箇所に住む。そこが肝だ。
コードを書かない可観測性
Archは、計装を足すことなくエージェントのシグナルとOpenTelemetryのトレース・メトリクスを取る。planoai obs でライブのトラフィックを見てもよいし、planoai trace で1つの遅いリクエストを掘り下げ、どのホップが時間を食ったかを見てもよい。遅いリクエストか。コマンド1つで理由が分かる。
モデルの機動性とprompt target
ルーティング以外にも、Archはprompt targetを通じて自然言語のプロンプトを構造化・検証済みのAPI呼び出しに変えられる。このサポートはv0.4.22でエージェントを優先する形で非推奨となったため、新規プロジェクトはエージェントの道を頼るべきだ。決定論的なAPI呼び出しのために既にprompt targetへ依存する既存設定は、当分そのまま動く。
言語とフレームワークの自由
エージェントはOpenAIのチャット補完エンドポイントを実装する素のHTTPサービスであり続ける。Python、JavaScript、あるいは好きなスタックで書けば、Archがその外側のルーティング、順序付け、モデルアクセスのループを担う。つまり、下のフレームワークが気を変えただけでエージェントを書き直す必要は決してない。
メリットとデメリット
メリット
- Apache 2.0でオープンソース。ライセンス料はなく、ソースへ完全にアクセスできる。
- 設定ファイル1つで、手書きの意図分類器、プロバイダーアダプター、トレースの糊を置き換える。
- プロバイダーに依存しないルーティングにより、アプリのコードを触らずにモデル間を移れる。
- 自動のOpenTelemetryトレースが、手動計装の作業を実質的に削る。
- DockerもRustツールチェーンもなしでネイティブに動く。セットアップが速い。
デメリット
- ネイティブ対応のプラットフォームはLinuxとmacOS Apple Siliconに限られ、WindowsのユーザーはDockerの道へ押しやられる。
- ホスト型の本番提供はなく、ゲートウェイの運用とスケーリングは自分で担うことになる。
- prompt targetは非推奨で、古いチュートリアルを追う人は行き止まりに当たる。
- 無料ホストの編成モデルは米国中部の共有リージョンで動くため、遅延やデータに敏感なチームは早めにセルフホストする必要がある。
よくある質問
Archは、アプリとそれが呼び出すLLMプロバイダーの間に位置するAIゲートウェイだ。モデルのルーティング、マルチエージェントの編成、ガードレール、トレースを担い、製品ロジックを自分のコードに留められるようにする。対象はエージェント型アプリを作る開発者であり、エンドユーザーではない。
関連コンテンツ
Archに関連するツール、スキル、記事を探す。
Archの代替ツール
Emma AI
Emma AI · ビジネス · チャットボットEmma AIは、自社のビジネスデータから質問に答えるカスタムアシスタントを作れるノーコードのAIアシスタント作成ツールだ。チームがすでに使っているSlack、Notion、Google Sheets、Zendeskといったツールをつなぎ、文書をアップロードし、あるいは問答の流れでEmmaにアシスタントを学習させる。速い。作ったアシスタントは特定のチーム、プロジェクト、ワークフローに限定できるため、マーケティング用のアシスタントと経理用のアシスタントが同じ情報源を見ることはない。
Chatgbot
Chatgbot · 画像 · 生産性向上 · チャットボットChatgbotは、OpenAIのGPTモデル、AnthropicのClaude Sonnet、そしてGLMやQwenといったオープンソースの選択肢を1つのログインの背後に集めたマルチモデルAIチャットプラットフォームだ。別々のサブスクを使い分ける代わりに、会話ごとにモデルを選び、PDFをアップロードして質問し、画像を生成し、ウェブ検索もできる。すべて1つの画面と1つの会員資格の中で完結する。
Validator AI
ValidatorAI · ビジネス · チャットボットValidator AIは、何かを作り始める前に明確な答えを得たい創業者向けのAIアイデア検証ツールだ。スタートアップアイデア検証ツールとAIスタートアップメンターを1つにまとめたものと考えればいい。自分のスタートアップ、製品、小規模ビジネスの構想を説明すると、ツールがそれを採点し、競合の状況を分析し、理想の顧客が誰かを提案し、次のステップを示す。数十万件の創業者セッションから集めた行動データを土台にしている。中核のチェックは無料で実行できる。すでにリリース済みの企業ではなく、最も早い段階で構想を試す個人創業者、インディー開発者、小規模チームに向く。