Parallax by Gradient
Gradient · その他
Parallax by Gradientは、完全分散型の推論エンジンだ。ハードウェアの構成がどれほど違っても、物理的にどこにあっても、複数のデバイスにまたがって大規模言語モデルを動かす自分専用のAIクラスタを組める。クラウドのGPUを借りる代わりに、すでに持っているマシンを束ね、Qwen、DeepSeek、GLMといったモデルを1つのローカルエンドポイントから提供する。
Parallax by Gradient について
Parallax by Gradientとは
Parallaxは、Gradientが開発したオープンソースの分散AIクラスタフレームワークだ。大規模言語モデルを複数のマシンに分割し、それらで一緒に推論を回す。だからノートPC、GPUを積んだデスクトップ、自宅ネットワークの反対側にある小さなサーバーが、1台の大きなマシンのように振る舞う。全体はピアツーピアのプロトコルで通信するため、常時オンラインでなければならない中央サーバーは存在しない。これが売り文句だ。
これが解決する問題は、口で言うのは簡単だが、実際に悩まされると厄介だ。まともなLLMを動かすには、通常、クラウド事業者にトークン単位で支払うか、モデル全体が収まる非常に高価なGPUを買うかのどちらかになる。Parallaxは第三の道を取る。モデルを層ごとに分割し、手持ちのハードウェアにリクエストを流す。だから机の上にすでにあるデバイスをより長く活用できる。プロンプトと出力は自分のマシンにとどまる。第三者に送りたくない内容を扱うなら、ここは大きい。
最大の制約は、これがクリックでインストールできるアプリではなく、開発者向けのツールだという点だ。ターミナルに慣れている必要があり、LinuxではDockerを触るかGPUドライバを設定することになる。プロジェクトも若い。バージョン0.0.1が登場したのは2025年10月なので、粗さが残るのは想定内で、モデル対応も刻々と変わる。設定ゼロで箱から出してすぐ動くものを求めるなら、ホスト型APIのほうが話が早い。
はじめかた
- リポジトリをクローンして
./install.shを実行し、クライアントをインストールする。Pythonの仮想環境が整い、必要なバイナリがビルドされる。Windowsユーザーは単体インストーラを使える。 source .venv/bin/activateで環境を有効化し、ハードウェア向けの追加パッケージが取り込まれたか確認する。macOSとLinuxではGPUビルドが異なるバックエンド部品をインストールするためだ。parallax serve -m Qwen/Qwen3.5-0.8Bのようなコマンドでローカルノードを起動する。合計メモリに収まるモデルを選ぶ。- 追加のマシンを同じクラスタに参加させ、モデルの断片を加えたすべてのデバイスに広げる。
- アプリやスクリプトをローカルエンドポイントに向け、OpenAI互換APIと同じようにリクエストを送る。
AIツール情報
Parallax by Gradientの料金、対応プラットフォーム、性能を簡単に確認できます。
こんな人におすすめ
このツールが最も力を発揮するユーザー、タスク、シーン。
ユーザー
- すでに数台のマシンを持ち、ターミナル作業をいとわないなら、クラウドの請求なしでセルフホスト型のLLMワークロードを回したい開発者。
- 機微なテキストを扱い、プロンプトをホスト型APIに送るより推論をローカルハードウェアに置いておきたい、プライバシー重視のチーム。
- 分散AIクラスタの構成に興味があり、設定に半日を費やす覚悟のあるホビイスト。
タスク
- 数人が各自のツールを1台のローカルサーバーに向ける、自宅ラボや小規模オフィス向けの共有LLMエンドポイントを立てる。
- Qwen、DeepSeek、GLMといったオープンモデルを、ベンチマークを1回走らせるたびに課金する代わりに、実機で試して比べる。
- ベンダーロックインも利用上限もなしに、ローカルAI推論バックエンドを必要とするエージェントや社内ツールを作る。
シーン
- ノートPCと予備のGPU付きデスクトップで、より大きなモデルを絞り出す週末プロジェクト。
- オフィスのマシンでコーディングアシスタントを動かし、ソースコードを1行も社外に出さない。
- パイプライン並列のモデルシャーディングを試し、束ねた一般的なハードウェアでどこまで行けるか確かめる。
- 数台の混在マシンでLLMをローカルに動かし、クラウドを完全に省きたい人。
主な機能
分散モデルシャーディング
Parallaxはパイプライン並列を使い、モデルをデバイス間で分割する。だから各マシンはネットワーク全体ではなく一部だけを保持する。仕様が大きく異なるハードウェアが1つのモデルで協調できるのはこれが理由だ。ノードを足せばクラスタを拡張でき、フレームワークが作業の割り振りを調整する。
ハードウェア非依存のクラスタ
エンジンは同一のマシンを要求しない。構成も物理的な場所も異なるノード間でリクエストを振り分ける厄介な部分を処理する。これが分散構成の狙いそのものだ。Mac、GPU付きのLinuxマシン、Windowsマシンが同じクラスタに加われる。
ピアツーピア通信
ノードはP2P層のLatticaを通じて相互に通信するため、ネットワークに単一障害点がない。1つのノードが落ちても、クラスタはそれに巻き込まれて崩れない。この設計が、クラスタを「どこでも」動かせるという言葉を単なる売り文句以上のものにしている。
クロスプラットフォーム対応
ParallaxはWindows、Linux、macOSにインストールできる。GPUバックエンドはSGLangとvLLMに頼り、MacはMLX LMで動く。インストール手順はシステムごとに異なり、Windows用インストーラとGPUマシン向けのDockerイメージが用意されている。見返りは本物のクロスプラットフォームLLMホスティングだ。1つのクラスタ、複数のOS、コード変更なし。
最適化されたリクエスト処理
Macでは、ParallaxがページドKVキャッシュ管理と継続的バッチングを加える。多くのリクエストをさばきながらメモリ使用量を抑える手法だ。リクエストのスケジューリングはその場で調整され、どのノードが何を担うかを決める。クラスタ全体でスループットを高く保つのが狙いだ。
OpenAI互換のサービス提供
ノードが動き出せば、既存のツールがホスト型APIとほぼ同じように呼べるエンドポイントを公開する。すでに作ったアプリ、スクリプト、エージェントを書き直す必要はない。プロジェクトはOpenClaw向けの統合手順も文書化している。
メリットとデメリット
メリット
- 無料のオープンソースなので、トークン単位の請求がなく、推論がどう動くかを正確に読める。
- すでに持っているハードウェアを、仕様の異なるマシンも含めて動くLLMクラスタに変える。
- プロンプトと出力を自分のデバイスに保つため、プライバシーとコンプライアンスに役立つ。
- クロスプラットフォーム対応により、MacとLinuxのGPUマシンで1つのデプロイを共有できる。
- P2Pアーキテクチャが中央サーバーを排するため、単一障害点がない。
デメリット
- 設定は開発者向けだ。ワンクリックアプリではなく、LinuxのGPUインストールはDockerやドライバ作業を伴うことがある。
- プロジェクトは初期段階だ。モデル対応は変わり続け、時折壊れることも想定してほしい。
- 性能はハードウェア次第だ。束ねた一般的なデバイスはクラウドのGPUクラスタには及ばない。
- ドキュメントはまだ整備中なので、トラブルシューティングの一部はリポジトリを読むかDiscordで尋ねることになる。
よくある質問
はい。Parallax by Gradientはオープンソースで無料、サブスクリプションもない。すでに動かしているハードウェアの電気代だけがかかる。有料プランはないので、「$0」という価格が製品全体をカバーする。
関連コンテンツ
Parallax by Gradientに関連するツール、スキル、記事を探す。
Parallax by Gradientの代替ツール
BinkBink
BinkBink · その他BinkBinkは無料のオンラインゲームプラットフォームであり、AIゲームメーカーでもある。短いテキストの説明を、誰でも遊べるブラウザゲームに変えられる。コミュニティが作った数百本のゲームにすぐ飛び込める。あるいは自分のアイデアを説明すれば、数秒で遊べて、そのまま友達と共有できる。自分のゲームを作りたい？プログラミングは要らない。エンジンの設定も、ダウンロードも、面倒なこともない。
Audiogen
Audiogen Inc. · その他Audiogenは、Audiogen Inc.が開発したAI音楽生成ツールだ。小さな研究チームが約2年半かけて自社の生成型音楽モデルを訓練し、その周りにWebインターフェースを設計した。このAI音楽ツールは単なるテキストボックスではなく、タイムラインを初心者に優しい生成型オーディオワークステーション（Generative Audio Workstation、略してGAW）へと変える。そこではインペインティング、延長、リミックス、ステム編集が、キャンバスに絵を描くように機能する。製品はまだベータ版で、アクセスは順番待ちリストか招待で行う。有料プランはまだ公開されていない。
Aiml API
AIMLAPI OÜ · その他Aiml APIは、OpenAI、Google、Anthropicなどの1000以上のモデルを1つのエンドポイントと1つの請求にまとめる統合AIモデルAPIだ。単一のOpenAI互換スキーマに対してコードを書き、モデル文字列を変えるだけでチャット、画像、動画、音声のモデルを切り替えられる。十数の事業者アカウントを使い分けずにマルチモデルへアクセスしたい開発者や小規模チームに向き、複数ベンダーを試すときに付きまとう請求の手間もなくす。1つの鍵ですべてをまかなえる。