Cirrascale Cloud Services
Cirrascale Cloud Services (Cirrascale Corporation) · コーディング
Cirrascale Cloud Servicesは、Qualcommの1枚差しからNVIDIA B200 8基までを月額固定で貸し出すプライベートAIクラウドだ。データ転送料はかからない。
Cirrascale Cloud Services について
About
Cirrascale Cloud Servicesとは
Cirrascale Cloud Servicesは、AIトレーニング基盤やファインチューニング、モデル配信を自前のハードウェアなしで回したいチームに、専用アクセラレータを売るサービスだ。母体のCirrascale Corporationは長年マルチGPUのブレードとラックマウントを設計してきた会社で、その同じマシンを月単位で貸し出す事業がこのクラウドになる。
売り物は制御権だ。利用者が受け取るのはroot権限付きのサーバー1台で、共有マシンの切り売りではない。しかもNVIDIA、AMD、Qualcomm、Tenstorrentと選択肢が広い。特定ベンダーのツールチェーンに縛られた案件や、価格交渉の余地を残したい調達では効いてくる。
その自由の代償は契約期間だ。CirrascaleはGPU時間を時間単位で売らないため、最短でも1か月の賃貸になる。2時間だけ試したいチームは、分単位課金のクラウドを見たほうがいい。
同社は推論事業も持つ。マネージドのAI推論プラットフォーム、Google Distributed Cloud上で動くプライベートGeminiエンドポイント、Ai2のオープンモデル向けホスト型エンドポイントである。公共部門はGoogle GPARサービス経由で利用する。
導入の流れ
- Get Startedフォームか営業窓口から、モデル規模、フレームワーク、希望時期を伝えて相談する。
- アクセラレータと契約期間を選ぶ。1か月、3か月、6か月、年契約の価格がサーバー単位で公開されている。
- 見積もりを承認し、組織が求めるセキュリティ審査を含むオンボーディングを済ませる。
- インスタンスを構築し、NVMeかオブジェクトストレージを接続する。複数ノードで回すならネットワークかInfiniBandをつなぐ。
- トレーニングや推論のワークロードを移し、自前のスタックで運用する。運用ごとマネージドサービスに任せることもできる。
AIツール情報
Cirrascale Cloud Servicesの料金、対応プラットフォーム、性能を簡単に確認できます。
こんな人におすすめ
このツールが最も力を発揮するユーザー、タスク、シーン。
ユーザー
- 数か月単位の学習計画を持つMLチーム。サーバー単価なので四半期の予算が読みやすい。1か月以上の契約を飲めることが条件だ。
- 高価なGPUを8基そろえたいがハードは買いたくないスタートアップ。ノード丸ごとを借りるので、コロケーション契約も更新サイクルも要らない。
- データ所在地の規制を受ける企業。プライベート導入とプライベートGeminiエンドポイントを使えば、推論トラフィックを自社環境の内側に留められる。
- 推論トラフィックが安定しているチーム。月を通して稼働率が高ければ、トークン課金より予約容量のほうが安い。
タスク
- 大規模モデルの事前学習とファインチューニング。3200Gb InfiniBandで結んだH100クラスタなら、1台に収まらないジョブも回せる。
- モデル配信と検索パイプライン。予約GPUノードと階層型ストレージの組み合わせで、負荷がかかっても応答時間が安定する。
- フレームワーク間の移植検証。同じ処理をNVIDIA、AMD MI300X、Qualcomm Cloud AI 100、Tenstorrent Galaxyで比べるには、ノードをもう1台借りるだけで済む。
- 規制下の推論運用。Google Distributed Cloud上のプライベートGeminiエンドポイントなら、共有テナントにデータを出さずにマネージドモデルを使える。
シーン
- 16ノード以上のH100を2か月使いたい研究グループが、クラスタを自前で組まずに立ち上げる場合。
- 数百万点の小さな画像ファイルを抱え、汎用クラウドのストレージで詰まるコンピュータビジョン企業。
- 年間の計算資源契約を結ぶ前に、各社のGPUクラウド料金を並べて比べるチーム。
主な機能
4社のチップに対応する専用GPUサーバー
どのインスタンスも仮想スライスではなくサーバー1台で、下位の8x NVIDIA RTX A4000から8x NVIDIA B200、8x AMD MI300X、Qualcomm Cloud AI 100構成までそろう。フレームワークに合うシリコンを選べるので、ワークロードを1社に合わせて曲げなくていい。GPU以外のアクセラレータを試すチーム向けにTenstorrent Galaxyノードもある。
マルチノード学習のためのクラスタネットワーク
単体サーバーは25Gbボンディングで、H100のクラスタ構成は3200Gb InfiniBandに切り替わり、最大3200Gbの帯域を使える。Cirrascaleは16ノード以上のH100クラスタでGPU時間あたり$2.49からの価格を示す。パラメータ70B級の学習が数週間で終わるか、相互接続で止まるかはここで決まる。
転送料なしの月額固定
GPUクラウド料金はサーバー単位の月額で、3か月、6か月、年契約と延ばすほど実質単価が下がる。受信も送信も課金されないため、TB級のデータセットを動かすチームや出力の多いサービスの計算が変わる。Cirrascaleはこの方式をNo Surprises billingと呼び、隠れた費用はないと明言する。
プライベートGeminiとマネージド推論エンドポイント
AI推論プラットフォームには、オープンモデルのホスト型エンドポイント、Qualcomm推論クラウド、Ai2モデルのエンドポイントが含まれる。プライベートGeminiエンドポイントはGoogle Distributed Cloud上で動き、Google Cloud Marketplaceにも掲載されている。プロンプトと応答を自社インフラの内側に置いたまま、マネージドのGeminiを使えるわけだ。
ホットNVMeからオブジェクトまでの階層ストレージ
ホット層のNVMeはオブジェクトストレージと別建てで、オブジェクト側の単価は50TB、2PB、それ以上の区分に上がるごとに下がる。数百万の小ファイルで構成される学習データを想定した設計で、汎用のオブジェクトストレージが音を上げるのはまさにその場面だ。下支えはDellのハードウェアとWekaの並列ファイルシステムである。
プラットフォーム要員がいないチーム向けのマネージドサービス
CirrascaleはゼロDevOpsを掲げたプロフェッショナルサービスとマネージドサービスを用意し、データサイエンスチームは構築、監視、クラスタ保守を手放せる。インフラ専任のエンジニアがいない組織にとって、サーバーを借りた状態と学習が実際に回る状態の差を埋める役割を担う。
メリットとデメリット
メリット
- サーバー単価なので数か月先までのAI予算を読みやすく、長期契約ならGPUあたりの単価も下がる。
- 受信も送信も無料なので、データセットが大きいほど他社のGPUクラウドで静かに膨らむ費用が消える。
- アクセラレータがNVIDIA、AMD、Qualcomm、Tenstorrentにまたがり、調達時の交渉余地が実質的に生まれる。
- InfiniBand付きH100クラスタは16ノード以上でGPU時間$2.49に達し、大規模学習では競争力がある。
- Dellのプラチナパートナー資格とWekaストレージにより、ハードウェアの素性をベンダー名で確認できる。
デメリット
- 時間課金も秒課金もないため、短い検証でもサーバー1か月分の費用がかかる。
- 開通は営業経由で、クレジットカードで5分後にノードを立ち上げるわけにはいかない。
- 無料プランもトライアルもなく、評価には有料契約が必要になる。
- 公開価格がサーバー単位なので、時間課金のクラウドと比べるには手計算が要る。
よくある質問
AIの学習、ファインチューニング、推論向けに専用のGPUとアクセラレータのサーバーを提供し、マネージド推論エンドポイントも備える。マシンを1か月以上借りて、その上で自前のスタックを動かす形だ。
関連コンテンツ
Cirrascale Cloud Servicesに関連するツール、スキル、記事を探す。
Cirrascale Cloud Servicesの代替ツール
Forefront
Forefront · コーディングForefrontはオープンソースAIで構築するためのウェブプラットフォームだ。主要なオープンソース言語モデルを自分のデータで微調整し、性能を評価し、API経由で実行したり、エクスポートして自分でホストしたりできる。クローズドなプラットフォームの手軽さを求めつつ、モデルとデータの所有権にはこだわる開発者が対象だ。
Startkit
StartKit.AI · コーディングStartkitは、AI SaaSとAIラッパー製品を作るためのボイラープレートだ。面倒な部分をあらかじめ配線済みにしたAIスタートアップボイラープレートと考えればいい。認証、StripeとLemon Squeezyの決済、利用制限、トランザクションメール、そしてOpenAI、Anthropic、Groq、Llamaと通信するAI APIスターターキットが含まれる。リポジトリをクローンして価格を設定し、ユーザーが実際にお金を払う部分に取りかかれる。ReactとTailwind上のNext.jsで作られているため、ボイラープレートコードの多くはすでに見慣れたものだ。
Testim
Tricentis · コーディングTestimは、Web・モバイル・Salesforceアプリ向けにエンドツーエンドテストを構築して実行するAIテスト自動化プラットフォームだ。機械学習を頼りに、インターフェースが変わってもテストを安定させ、チームが壊れたセレクターの修正に費やす時間を減らす。今日から使い始められる自動テストツールとしては悪くない。ブラウザで操作を録画してテストを作り、より細かい制御が必要なときはJavaScriptを足す。忙しいQAチームにとって堅実な選択肢である。