Substrate AI Inference Platform
Substrate Labs Inc. · コーディング
Substrate AI Inference Platformは、多段階のAIプログラムを1枚のノードグラフとして実行する推論基盤だ。テキスト・画像・音声のノードとPython・TypeScript SDKを備えていたが、現在は提供を終えている。
Substrate AI Inference Platform について
About
Substrate AI Inference Platformとは
Substrate AI Inference Platformは、Substrate Labs Inc.が提供していたAIワークフローAPIだ。2023年にRob CheungとBen Guoがニューヨークで立ち上げた会社の製品である。1つのモデルを1つのエンドポイントの裏に置くのではなく、テキスト生成、構造化JSONの抽出、画像生成、音声の文字起こし、埋め込みの計算、自前のPythonやJavaScriptの実行といった小さなノードの集まりとして、AI機能を記述できた。
狙っていたのは配線の手間だった。モデル呼び出しを手作業でつなぐと、ベンダー間の糊コード、二度手間のファイルアップロード、複数サービスに散らばるリトライ、3つの管理画面に分かれた請求書が残る。SubstrateはSDKで書いたプログラムを読み、グラフ全体を解析して、並列度とスループットが最大になるようにノードを配置した。同じグラフのノードは必ず同じクラスタで動くため、中間データは場所を移さない。公式ドキュメントが掲げたデータローカリティはこの意味だ。
制約は現在の状況にある。2025年半ばに開発の重心は、同じチームが作るパーソナルクラウドのZo Computerへ移り、substrate.runとdocs.substrate.runはそこへ転送される。新しいAPIキーは発行されず、既存のグラフもそのまま他社基盤へ輸出できない。考え方自体は今も参考になるので、このページは残してある。
はじめかた
以下は、新規登録を閉じる前の手順だ。
- substrate.runでアカウントを作り、ダッシュボードからAPIキーをコピーする。
- クライアントライブラリを入れる。Pythonなら
pip install substrate、TypeScriptならnpm install substrateだ。 - 処理をノードに分け、あるノードの出力を次のノードの入力に渡す。たとえばテキストをJSON抽出ノードへ、その結果を画像プロンプトへ流す。
- プログラムを実行してストリームイベントを読み、プロンプトを調整しながら保存済みの実行を再生する。
AIツール情報
Substrate AI Inference Platformの料金、対応プラットフォーム、性能を簡単に確認できます。
こんな人におすすめ
このツールが最も力を発揮するユーザー、タスク、シーン。
ユーザー
- Substrate連携をまだ保守している開発者：ドキュメントにノード名とグラフの挙動が残っているため、移行作業は推測ではなく読める仕様から始められる。
- 本番で複数のモデル呼び出しをつないでいるチーム：共通の入力を1本のプログラムにまとめる形が学べ、その設計は他のオーケストレーターにも応用できる。
- モデルのオーケストレーションを学ぶエンジニア：PythonとTypeScriptのSDKは半日で読み切れる長さで、パターンの理解に向く。
タスク
- 多段階のコンテンツ処理：下書き、構造化された要約、アイキャッチ画像を3本のスクリプトではなく1本のプログラムとして走らせられ、中間テキストはクラスタの外に出なかった。
- バッチでのデータ補強：大量のレコードを同じグラフに繰り返し通せて、分散とリトライは基盤側が引き受けた。
- モダリティをまたぐ要求：音声からテキスト、テキストからJSON、さらに画像生成までを1本の鎖で処理し、請求は1アカウントにまとまった。
シーン
- 古い連携の棚卸し：サービスがまだSubstrateのエンドポイントを呼んでいるなら、保管されたノード一覧から置き換えるべき機能と順序が分かる。
- オーケストレーション設計の比較：Substrateのノードのまとめ方と、素の関数呼び出しでの組み方を並べると、ワークフローエンジンが本当に必要か判断しやすい。
- 会社の方向転換を追う：Zo Computerへの転送は時系列を可視化してくれるし、AI基盤製品がどれだけ速く舵を切るかの事例にもなる。
主な機能
グラフとしてのプログラム実行
プログラムはHTTP呼び出しの連なりではなく、依存関係を持つノードとして書く。Substrateはまずグラフ全体を読み、独立した枝を同時に走らせた。テキスト生成3本の並列処理と結合ステップがある仕事では、結合は最も遅い枝を待つだけで済み、すべてを順番に流す必要はなかった。マルチ推論という言葉が指していたのは、1リクエスト、多数のモデル呼び出し、1つの結果という形だ。
テキスト・JSON・画像・音声の既製ノード
モデルを自分で立てなくても始められるよう、既製のノードが用意されていた。テキスト生成、型付きフィールドを返すJSON抽出、画像生成、音声の文字起こし、埋め込みの計算を同じクライアントから呼べる。テキストノードで下書きし、出力をJSONスキーマに押し込み、そのまま保存する流れがよく使われた。データをベンダー間で移さずに1回の実行で終わる。
グラフ内での自前計算
Python用とJavaScript用の2つのノードで、モデル呼び出しの隣で普通のコードを動かせた。モデルが苦手な部分、つまりCSVの解析、社内エンドポイントの呼び出し、ペイロードの組み替えをここで処理する。コードノードはモデルノードと同じクラスタで動くため、大きな中間オブジェクトを自前サーバー経由でシリアライズせずに受け渡せた。
同一クラスタでのデータローカリティ
Substrateは、プログラム内のすべてのノードが同じクラスタで実行されると約束していた。利用者から見た効果は往復回数の削減と、文字起こしを音声ノードからテキストノードへ渡すときの外向き通信費がゼロになることだ。長い鎖でも遅延が読みやすくなる。各ホップが公開インターネット越しの要求ではなくローカル呼び出しだからだ。
PythonとTypeScriptのSDK
Python SDKとTypeScript SDKが主要な接点だった。どちらもノードをオブジェクトとして組み、片方を他方の入力に渡して連結し、実行後に中身を確認できる。Ben GuoはStripeで8年間APIとSDKの設計に携わっており、型付きの入力、短いメソッド名、中間値をすべて保持する実行オブジェクトといった使い勝手にそれが表れている。
1アカウント、1つのメーター
モデル呼び出し、自前コード、実行結果の保存が1本の従量請求にまとまった。小さなチームにとっては、突き合わせる請求書が4枚ではなく1枚になる差であり、モデルベンダーごとに個別へ前払いする必要もなくなった。課金はノード単位で計測されたので、グラフのどの工程が予算を食っているかが見えた。
メリットとデメリット
メリット
- グラフ単位の並列化により、独立した枝を持つプログラムは同じ処理を逐次API呼び出しで書いた場合より速く終わった。
- SDK1つと請求1本でテキスト、画像、音声、埋め込みをまかない、小規模チームの統合作業を減らした。
- データローカリティが中間データをクラスタ内に留め、長い鎖でも外向き通信費も公開網経由の余分な往復も発生しなかった。
- 基盤製品としては異例に整理されたSDKで、型付きノードと再生可能な実行オブジェクトを備えていた。
デメリット
- 新規利用を閉じているため、現在は試すことも検証導入することもできない。
- プログラムは独自のグラフ形式で書く仕様で輸出手段がなく、移行は設定変更ではなく書き直しになる。
- モデルのラインナップは大手クラウドより狭く、次に何が来る予定だったかを確認できる公開ロードマップもない。
よくある質問
Substrate Labsが提供していたAI推論プラットフォームで、つながったノードで構成するAIプログラムを実行するAPIだった。手順をPythonかTypeScriptで書き、基盤が並列枝と同一クラスタでのデータ処理を伴ってグラフを実行した。
関連コンテンツ
Substrate AI Inference Platformに関連するツール、スキル、記事を探す。
Substrate AI Inference Platformの代替ツール
Base Code
Base44 (Wix) · コーディング · 生産性向上Base CodeはBase44の共有クラウド開発環境だ。既存のGitHubリポジトリに対する変更をチャットで伝え、プレビューで確認し、プルリクエストとして返せる。
Google EmbeddingGemma 2
Google DeepMind · ライティング · 画像 · コーディングGoogle EmbeddingGemma 2 は 7 億 4000 万パラメータのオープンなモデルで、テキスト、コード、画像、音声、動画フレームを同じ 768 次元空間のベクトルに変え、スマートフォンやノート PC 上で動く。
GitGlow
GitGlow · コーディング · 生産性向上GitGlow は自分のコードと AI エージェントの変更を一つのレビューにまとめるデスクトップ Git クライアントだ。出荷前に、マシンから何が出ていくのかを確かめられる。