RunInfra
RunInfra · コーディング
RunInfraは、1つのアカウントで2つの仕事をこなすAI推論プラットフォームだ。すでにホストしているオープンウェイトモデルを、OpenAI互換APIとAnthropic互換APIから呼び出せる。あるいはチャットでHugging Faceモデルを渡せば、エージェントが配信スタックを調整してくれる。狙いは、GPUを選ばずに本番用エンドポイントを手に入れたい開発者と小規模チームだ。手作業でのプロビジョニングはここでの仕事ではない。自分たちの条件でLLMを配信することこそが仕事だ。
RunInfra について
RunInfraとは
RunInfraは、ホスト型モデルAPIと最適化サービスを1つのワークスペースにまとめたものだ。前半はほとんどのモデルプロバイダーと同じように動く。ベースURLにHTTPリクエストを送ると、補完が返ってくる。チャット補完とResponses形式はOpenAI仕様に従い、MessagesはAnthropic仕様に従うため、既存のSDKはたいていURLとキーを差し替えるだけで収まる。選ぶべきGPUはない。議論すべきインスタンスタイプもない。
後半こそが際立つ部分だ。Hugging Faceモデルを平易な言葉で説明すると、RunInfraのエージェントがベンチマークを取り、配信スタックを調整し、実測結果を返す。そこから、動いているエンドポイントを保つか、デプロイキットをエクスポートするかを選ぶ。キットは検証可能で持ち運べるため、後から自分のハードウェアへ移せる。
主な制約はお金と適用範囲にある。利用は階層制ではなく前払いクレジットで回るので、使う前にチャージする。ワークフローも技術寄りだ。APIキーやモデルリポジトリに触れたことがなければ、エージェントチャットは動く部品が多く感じられる。それが致命的かどうか。答えられるのは本人だけだ。
はじめ方
- RunInfraアカウントを作成し、ワークスペース残高にクレジットを追加する。新規アカウントには1ドルの無料枠があり、最低チャージ額は10ドルだ。
- ダッシュボードでAPIキーを発行し、ベースURLを
https://api.runinfra.ai/v1に設定する。 - ホスト型モデルなら、既存のOpenAIまたはAnthropicクライアントをこのベースURLに向け、公開モデルを選ぶ。カスタムモデルなら、そのHugging Face名をチャットエージェントに貼り付ける。
- エージェントが報告するベンチマーク結果を確認し、エンドポイントを選ぶかデプロイキットをエクスポートする。
- エンドポイントをアプリやコーディングツールに接続し、残高に対して利用量を追う。
AIツール情報
RunInfraの料金、対応プラットフォーム、性能を簡単に確認できます。
こんな人におすすめ
このツールが最も力を発揮するユーザー、タスク、シーン。
ユーザー
- AI機能を出荷する個人開発者と小規模チーム：ホスト型APIはGPU選択を完全になくすので、管理するのはキーとベースURLだけになり、セットアップは数日から数分に縮む。
- 調整が必要なHugging Faceモデルを持つ機械学習エンジニア：チャットエージェントがモデルをベンチマークし、設定を当て推量させるのではなく実測結果を報告する。
- コストを意識する開発者：前払いクレジットなら実行した分だけ払えばよく、月ごとの席課金はない。
タスク
- 既存アプリにホスト型プロバイダーを差し込む：OpenAI互換とAnthropic互換のエンドポイントなら、コードの変更は最小で済む。
- 1つのモデルで配信構成を比べる：エージェントがベンチマークを走らせ、どの構成が勝ったかを報告する。
- マネージドホスティングから離れる：エクスポート可能なデプロイキットで、調整済みの構成を自分のマシンへ持ち出せる。
シーン
- Claude Code、Codex、Clineといったコーディングエージェントを、1つのワークスペースキーでオープンウェイトモデルにつなぐ。
- まだGPUがなく、闇雲に借りたくもないときに、試作エンドポイントを立ち上げる。
- ベンダーを変えても書き直しにならないよう、モデルを持ち運べる状態に保つ。
主な機能
OpenAI互換とAnthropic互換のAPI
RunInfraはチャット補完とResponsesをOpenAI形式で、MessagesをAnthropic形式で公開する。コードがどちらかのプロバイダーとすでに対話しているなら、変更するのは主にベースURLとキーだ。移行は安く済む。1つのワークスペースで、異なるSDKで作られたアプリを同時に扱える利点もある。
チャットによるモデル最適化
エージェントチャットでHugging Faceモデルを指定し、必要なことを説明する。エージェントはベンチマークを取り、配信スタックを調整し、約束ではなく実測結果を報告する。調整の工程が自分の仕事として残らず、代わりに実行される点が、RunInfraを単なるモデルホストと分ける。
持ち運べるデプロイキット
最適化が終わると、エンドポイントをデプロイするか、デプロイキットをエクスポートできる。キットは検証可能なので何が変わったかを読み取れ、持ち運べるので自分のハードウェアで動かせる。調整の成果を特定のベンダーより長く生かしたいときに効く。
ワークスペース残高は1つ
エージェントチャット、最適化の実行、デプロイ済みエンドポイント、モデルAPI呼び出しは、すべて同じ残高から引かれる。買うべきプランはなく、使うぶんだけクレジットを足す。1クレジットは1ドルなので、計算は単純なままだ。
幅広いコーディングエージェント対応
RunInfraは、Claude Code、Codex、OpenCode、Aider、Cline、Zedなど数多くのコーディングツール向けに接続手順を公開している。普段使うエディタやターミナルの中でオープンウェイトモデルを使いたいとき、手頃な差し替え先になる。設定は推測ではなく文書化されている。
メリットとデメリット
メリット
- GPUの選択もプロビジョニングも不要で、モデルの自前ホスティングで最も誤りやすい部分を取り除ける。
- サブスクなしの前払いクレジットなので、ライトな利用者が毎月の下限を払わずに済む。
- エンドポイントはOpenAI形式とAnthropic形式を話すため、既存コードの大半はURLとキーの差し替えだけで足りる。
- エクスポート可能なデプロイキットにより、調整作業をRunInfraの外でも使える。
- 幅広いコーディングエージェント向けに、公開された接続手順がある。
デメリット
- ワークフローはAPIとモデルリポジトリへの慣れを前提とするため、非技術者には手荒に感じられる。
- 前払いクレジットでは、残高ゼロの呼び出しが作業前に402を返すので、残高を見張る必要がある。
- ライブラリにRunInfraのカテゴリがなく、正確にどの製品ファミリーに属するかは製品データ自体では確定しない。
よくある質問
2つのことをする。ホストしているオープンウェイトモデルをOpenAI互換またはAnthropic互換のAPIで呼び出せるほか、チャットでHugging Faceモデルを渡し、エージェントに配信スタックをエンドポイントや持ち運べるキットへ調整させられる。
関連コンテンツ
RunInfraに関連するツール、スキル、記事を探す。
RunInfraの代替ツール
Forefront
Forefront · コーディングForefrontはオープンソースAIで構築するためのウェブプラットフォームだ。主要なオープンソース言語モデルを自分のデータで微調整し、性能を評価し、API経由で実行したり、エクスポートして自分でホストしたりできる。クローズドなプラットフォームの手軽さを求めつつ、モデルとデータの所有権にはこだわる開発者が対象だ。
Startkit
StartKit.AI · コーディングStartkitは、AI SaaSとAIラッパー製品を作るためのボイラープレートだ。面倒な部分をあらかじめ配線済みにしたAIスタートアップボイラープレートと考えればいい。認証、StripeとLemon Squeezyの決済、利用制限、トランザクションメール、そしてOpenAI、Anthropic、Groq、Llamaと通信するAI APIスターターキットが含まれる。リポジトリをクローンして価格を設定し、ユーザーが実際にお金を払う部分に取りかかれる。ReactとTailwind上のNext.jsで作られているため、ボイラープレートコードの多くはすでに見慣れたものだ。
Testim
Tricentis · コーディングTestimは、Web・モバイル・Salesforceアプリ向けにエンドツーエンドテストを構築して実行するAIテスト自動化プラットフォームだ。機械学習を頼りに、インターフェースが変わってもテストを安定させ、チームが壊れたセレクターの修正に費やす時間を減らす。今日から使い始められる自動テストツールとしては悪くない。ブラウザで操作を録画してテストを作り、より細かい制御が必要なときはJavaScriptを足す。忙しいQAチームにとって堅実な選択肢である。