Tensordock

TensorDockは45種のGPUモデルを揃え、予算と用途にハードウェアを合わせられる。下位ではコンシューマーカードが毎時0.12ドル前後からで、軽い推論やレンダリングを難なくこなす。上位ではHGX H100 SXM5 80GBが毎時2.25ドルからで、本格的な訓練をカバーする。中間も厚く、毎時1.80ドルのA100 SXM4はAI推論で価格と速度のバランスが取れる。選択肢は豊富だ。

割当も、隠れた費用も、長期契約もない。時間単位で払う。サーバーを止めれば課金も止まる。この仕組みは、プロジェクトにどれだけ計算資源が要るか読めない人や、特定の作業のために一時的に力が欲しいだけの人に向く。

どのマシンも本物の仮想マシンで、閉じたサンドボックスではない。root権限、OSの完全な制御、ドライバの自己管理が付いてくる。互換性の予期せぬ問題が起きにくく、独自のCUDAビルドから完全なWindows 10デスクトップまで、プロジェクトに必要なスタックを自由に動かせる。Windows 10はLinuxと並んで対応する。

容量は20か国以上、100以上の拠点に広がり、すべて第3・第4ティアのデータセンターにある。特定地域の利用者に提供するとき、この広がりは遅延に効く。TensorDockは提携先を通じて最大3万台のGPUが使えるとも述べる。実際に確保できる数は、その時点で稼働している分次第だ。空き状況は1時間ごとに変わる。

TensorDockはホストのハードウェア品質を確認し、99.99%の稼働率を要求する。保守は最低2週間前の予約が必要で、基準に届かないホストはプラットフォームから完全に外される。この審査があるからこそ、マーケットプレイス型が運任せにならずに済む。すべてのホストが通るわけではない。

プラットフォームにはREST APIが付き、メタデータ、空き状況、サーバー管理を公開する。在庫を照会し、自前のツールからマシンを配備できる。GPU容量がより大きな自動化パイプラインの一部として、人手を介さずサーバーを上げ下げする必要があるチームにこそ必要な機能だ。