Salad - GPU Cloud
Salad Technologies · コーディング
Saladは分散型GPUクラウドで、190以上の国々に散らばる日次約16,000基の稼働GPU上でAIコンテナとオープンウェイトモデルを動かす。GPU1時間あたり約0.015ドルから。
Salad - GPU Cloud について
What Is Salad
Saladは自社が持たないハードウェアの上に組まれた、AI推論プラットフォームとしてのGPUクラウドだ。同じ規格のラックでデータセンターを埋める代わりに、世界中のゲーミングPCや小規模オフィスで遊休しているコンシューマー向けGPUとワークステーションGPUを束ね、AIワークロードを動かす開発者や企業に貸し出す。その結果、従来のクラウドよりはるかに安い計算プールが生まれる。ただし挙動はいくつかの点で従来型とは異なる。
対象は三つある。RTXクラスの分散GPU網にDockerコンテナを配備する、OpenAI互換のトークンエンドポイントからオープンウェイトモデルを呼ぶ、専用APIで音声を文字起こししたり合成したりする。同じオーケストレーション層がCommunity Cloud、予約制のDedicatedハードウェア、自社マシン上のPrivate Cloudで動く。
最大のトレードオフは予測しやすさだ。ノードは個人が所有するため、マシンが落ちればインスタンスは再配置されたり切断されたりする。Saladは優先度と自動再配置でこれに向き合うが、向くのは中断を許容できるワークロードであり、常時稼働が前提の硬いクラスタではない。
Getting Started
- SaladCloudのアカウントを作り、情報を確認する。
- ポータルでAPIキーを発行する。モデルのトークンだけならAI Gatewayのキーを取る。
- ワークロードをDockerコンテナにまとめるか、Gatewayのカタログからオープンウェイトモデルを選ぶ。
- ポータルか1回のAPI呼び出しで配備する。優先度とレプリカ数を設定する。
- ログを追い、結果を確認する。課金はインスタンスが実行中の間だけ発生する。
AIツール情報
Salad - GPU Cloudの料金、対応プラットフォーム、性能を簡単に確認できます。
こんな人におすすめ
このツールが最も力を発揮するユーザー、タスク、シーン。
ユーザー
- 予算の厳しいAIスタートアップ：画像生成や文字起こし、バッチ推論を回すチームは、時折の中断を前提に設計すれば計算コストを大きく削れる。
- 個人開発者と独立系の作り手：APIキー1つと秒単位課金があれば、月額プランに縛られずにアイデアを試せる。
- 推論パイプラインを試作する機械学習エンジニア：コンテナ方式は標準的なDockerの流れに沿うので、既存サービスも手直しが少なくて済む。
タスク
- 画像と動画のバッチ生成：やり直しがきく処理は最低優先度が最も割安だ。横取りされても失うのは待ち時間だけで、成果は消えない。
- 音声の文字起こしと読み上げ：専用APIは音声時間あたりの課金で、ポッドキャストや通話録音の処理に合う。
- オープンウェイトの大規模言語モデルの提供：AI GatewayはOpenAI互換のエンドポイントでチャット、ストリーミング、ツール呼び出しを出す。既存のSDKはベースURLを変えれば動く。
シーン
- データセンターの容量を予約せず、デモを本番へ引き上げる：レプリカは必要に応じて起動し、遊休時はゼロまで下がる。
- 研究費を長持ちさせる：同じ予算で、一般的なハイパースケーラーより何倍ものGPU時間を買える。
- 機密性の高い推論を自前のハードウェアに置く：Private Cloudは同じオーケストレーション層を組織内で動かす。
主な機能
分散GPUプール
Saladは190以上の国々のゲーミングPCやワークステーションから集めた、日次約16,000基の稼働GPUにコンテナを配置する。ハードウェアはすでに存在するので、プラットフォームは新たなデータセンターに出資するのではなく供給をまとめる。価格を低く保てるのはこの点にある。
Salad Container Engine
このオーケストレーション層がGPUコンテナ配備を担う。相手は見たこともないノードだ。各マシンを検証し、ハイパーバイザーの背後に隔離し、ノードが消えた瞬間に処理を再配置する。渡すのはDockerイメージとわずかなリソース設定だけで、サーバーを手作業で調整する必要はない。
AI Gateway
GatewayはQwen 3.6やQwen 3.5といったオープンウェイトモデルを扱うOpenAI互換APIだ。大きい構成では262,144トークンのコンテキストウィンドウを備える。任意のOpenAI SDKを新しいベースURLに向ければ、エージェントやコーディング支援、アプリはトークン単位か月額定額で課金される。
優先度と秒単位の課金
4段階の優先度で、信頼性とコストを交換できる。高優先度は横取りされない。最低段は最も安く、最も中断されやすい。課金はインスタンスが止まった瞬間に終わり、割り当て、イメージのダウンロード、コールドスタートは無料だ。
用途別の専用API
Saladは特定の作業に向けて調整したエンドポイントを公開する。文字起こしAPIはCommonVoiceで95.1%の精度に達し、読み上げサービスは1ドルあたり最大600万語とうたう。いずれの数字も公表された手法にリンクしており、宣伝文句ではない。
プライベートと専用の配備
共有プールのほか、予約制のDedicatedサーバーはRTX PRO 6000 Blackwellを載せて契約で動く。Private Cloudは同じオーケストレーション層を、すでに手元にあるハードウェアへライセンスする。Private Cloudなら会社のデータは会社の端末に残る。
メリットとデメリット
メリット
- GPUレンタルが安い：分散クラウド上のRTX 4090ノードは1時間あたり約0.015ドルからで、Salad GPUクラウドが主流クラウドより安い理由がここにある。
- 秒単位課金で契約も最低量もないため、小さな実験を安く回せる。
- コンテナエンジンとAI GatewayはDockerとOpenAIの標準ツールを流用するので、移行の手間が小さい。
- 文字起こしと読み上げの専用エンドポイントがあり、よくある音声処理を追加構築なしでこなせる。
- Private CloudとDedicatedの選択肢があり、機密性の高い処理を自分で管理するハードウェアに置ける。
デメリット
- ノードの持ち主が離れればインスタンスは横取りされたり切断されたりするため、常時稼働のサービスには再試行の仕組みが要る。
- ノードは家庭や小規模オフィスのコンシューマーGPUで、データセンターが支える密結合のマルチGPU学習は無理だ。
- 無料トライアルはなく、最初のテストから課金される。参入コストは低いが、無料の枠はない。
- AI Gatewayはまだ早期アクセスで、モデル数は専業のトークン提供事業者より少ない。
よくある質問
されない。課金されるのはインスタンスが実行中の秒数だけだ。割り当て、イメージのダウンロード、コンテナの起動は無料である。
関連コンテンツ
Salad - GPU Cloudに関連するツール、スキル、記事を探す。
Salad - GPU Cloudの代替ツール
Forefront
Forefront · コーディングForefrontはオープンソースAIで構築するためのウェブプラットフォームだ。主要なオープンソース言語モデルを自分のデータで微調整し、性能を評価し、API経由で実行したり、エクスポートして自分でホストしたりできる。クローズドなプラットフォームの手軽さを求めつつ、モデルとデータの所有権にはこだわる開発者が対象だ。
Startkit
StartKit.AI · コーディングStartkitは、AI SaaSとAIラッパー製品を作るためのボイラープレートだ。面倒な部分をあらかじめ配線済みにしたAIスタートアップボイラープレートと考えればいい。認証、StripeとLemon Squeezyの決済、利用制限、トランザクションメール、そしてOpenAI、Anthropic、Groq、Llamaと通信するAI APIスターターキットが含まれる。リポジトリをクローンして価格を設定し、ユーザーが実際にお金を払う部分に取りかかれる。ReactとTailwind上のNext.jsで作られているため、ボイラープレートコードの多くはすでに見慣れたものだ。
Testim
Tricentis · コーディングTestimは、Web・モバイル・Salesforceアプリ向けにエンドツーエンドテストを構築して実行するAIテスト自動化プラットフォームだ。機械学習を頼りに、インターフェースが変わってもテストを安定させ、チームが壊れたセレクターの修正に費やす時間を減らす。今日から使い始められる自動テストツールとしては悪くない。ブラウザで操作を録画してテストを作り、より細かい制御が必要なときはJavaScriptを足す。忙しいQAチームにとって堅実な選択肢である。