Cirrascale Cloud Services
Cirrascale Cloud Services (Cirrascale Corporation) · 程式設計
Cirrascale Cloud Services 是私有 AI 雲端服務，出租整台專屬 GPU 伺服器，從單張 Qualcomm 加速卡到八顆 NVIDIA B200，採固定月租且不收資料傳輸費。
關於 Cirrascale Cloud Services
About
Cirrascale Cloud Services 是什麼
Cirrascale Cloud Services 把專屬加速運算賣給需要 AI 訓練基礎架構、模型微調或推論服務的團隊，不必自己採購硬體。它是 Cirrascale Corporation 的雲端事業，母公司早年專門打造多 GPU 刀鋒與機架系統，後來把同一套機器改為按月出租。
賣點是掌控權。使用者拿到的是整台伺服器與 root 權限，不是共用機器切出來的一份，硬體橫跨 NVIDIA、AMD、Qualcomm 與 Tenstorrent。當專案綁定某家廠商的工具鏈，或採購方想在價格上留談判空間，這一點很實際。
自由的代價是綁約。Cirrascale 不按小時賣 GPU 時間，機器最少租一個月。只想花兩小時試跑一個模型的人，應該去看按分鐘計費的雲端服務。
公司同時經營推論業務：代管式 AI 推論平台、跑在 Google Distributed Cloud 上的私有 Gemini 端點，以及 Ai2 開放模型的託管端點。公部門可透過 Google GPAR 服務取得。
開始使用
- 從 Get Started 表單送出需求，或直接聯絡業務，說明模型規模、框架與預計時程。
- 挑選加速器與租期。官網按伺服器公布一個月、三個月、六個月與年約價格。
- 確認報價並完成開通流程，包含貴組織要求的資安審查。
- 建置執行個體，接上 NVMe 或物件儲存，若要做多機訓練則串接網路或 InfiniBand。
- 把訓練或推論工作搬到機器上，用自己的技術堆疊管理，或交給 Cirrascale 的託管服務團隊代操。
產品資訊
快速了解 Cirrascale Cloud Services 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 有數個月訓練計畫的機器學習團隊：按伺服器計價讓整季預算可預測，前提是能接受至少一個月的租期。
- 需要八顆高階 GPU 卻不想買硬體的新創：整台節點租下來，不必簽機房代管合約，也沒有設備汰換週期。
- 受資料落地規範限制的企業：私有部署與私有 Gemini 端點讓推論流量留在自家環境。
- 推論流量穩定的團隊：整月利用率拉高之後，預留容量比按 token 計費划算。
任務
- 大型模型預訓練與微調：以 3200Gb InfiniBand 串接的 H100 叢集節點，能承接單機放不下的工作。
- 模型服務與檢索流程：預留 GPU 節點搭配分層儲存，讓高負載下的延遲維持穩定。
- 框架移植測試：同一份工作要比較 NVIDIA、AMD MI300X、Qualcomm Cloud AI 100 或 Tenstorrent Galaxy 的表現，只要再租一台節點。
- 受監管的推論上線：Google Distributed Cloud 上的私有 Gemini 端點，讓公部門使用代管模型而不用把資料送進共用租戶。
情境
- 研究團隊需要 16 台以上 H100 節點跑兩個月，希望叢集直接上線而不是自己搭建。
- 電腦視覺公司存放數百萬個小圖檔，在通用雲端的儲存層遇到瓶頸。
- 團隊在簽年度算力合約前，先比較各家的 GPU 雲端價格。
主要功能
四家晶片廠的專屬 GPU 伺服器
每個執行個體都是整台伺服器，不是虛擬切分，產品線從入門的 8x NVIDIA RTX A4000 一路到 8x NVIDIA B200、8x AMD MI300X 與 Qualcomm Cloud AI 100 配置。使用者挑選符合自家框架的晶片，而不是把工作遷就單一供應商。Tenstorrent Galaxy 節點則補上非 GPU 加速器的測試需求。
多機訓練用的叢集網路
單機標配 25Gb 綁定網路，H100 叢集配置則升級到 3200Gb InfiniBand，可用頻寬達 3200Gb。Cirrascale 公布 16 台節點以上的 H100 叢集，每 GPU 小時等效價格最低 $2.49。七十億參數以上的訓練能否在幾週內跑完，關鍵就在這一段互連。
固定月租且不收傳輸費
這裡的 GPU 雲端價格以每台伺服器、每月計算，三個月、六個月與年約會壓低實際費率。資料進出都不收費，對搬運 TB 級資料集或輸出量大的團隊，帳單算法完全不同。Cirrascale 把這套模式稱為 No Surprises billing，並強調沒有隱藏費用。
私有 Gemini 與代管推論端點
AI 推論平台包含開放模型的託管端點、Qualcomm 推論雲與 Ai2 模型端點。私有 Gemini 端點跑在 Google Distributed Cloud 上，並在 Google Cloud Marketplace 上架，企業與公部門可用代管 Gemini 模型，同時讓提示與回覆留在自家基礎設施內。
從熱層 NVMe 到物件儲存的分層設計
熱層 NVMe 與物件儲存分開計價，物件費率隨用量跨越 50TB、2PB 與更大級距而下降。這一層是為數百萬個小檔案組成的訓練集設計，通用物件儲存往往正是在這種情境下失效。底層採用 Dell 硬體與 Weka 平行檔案系統。
給沒有平台團隊的託管服務
Cirrascale 提供以零 DevOps 為目標的專業與託管服務，資料科學團隊可把建置、監控與叢集維護外包出去。對於沒有專職基礎架構工程師的團隊，這補上了「租到伺服器」與「訓練真的跑起來」之間的落差。
優缺點
優點
- 按伺服器計價讓數個月的 AI 預算容易預估，長租期還會壓低每顆 GPU 的費率。
- 不收進出流量費，替大型資料集移動作業省掉一筆在其他 GPU 雲端會悄悄累積的成本。
- 加速器涵蓋 NVIDIA、AMD、Qualcomm 與 Tenstorrent，採購時有實質議價空間。
- H100 叢集搭配 InfiniBand，在 16 台節點以上可達每 GPU 小時 $2.49，對大型訓練具競爭力。
- Dell 白金合作夥伴身分與 Weka 儲存，讓硬體規格有可查證的供應商背書。
缺點
- 沒有按小時或按秒計費，短暫測試一樣要付整月伺服器費用。
- 開通要透過業務，無法用信用卡在五分鐘內開好一台節點。
- 沒有免費方案或試用，評估平台就得先付費綁約。
- 公布價格以伺服器為單位，要跟按小時計費的雲端比較得自己換算。
常見問題
它提供專屬 GPU 與加速器伺服器，用於 AI 訓練、微調與推論，另外還有代管推論端點。使用者租下整台機器一個月以上，在上頭跑自己的技術堆疊。
相關內容
探索與 Cirrascale Cloud Services 相關的工具、技能與文章。
Cirrascale Cloud Services 替代方案
Udon
Udon · 程式設計 · 生產力Udon 把 Apple Silicon 的 Mac 變成 Mac 家庭伺服器，從瀏覽器就能管理容器與檔案共享，並可選擇啟用 AI 系統管理員。
offstage
offstage cloud · 程式設計 · 生產力offstage 給 AI 代理與 CI 工作一台真正的 Mac：Apple 晶片上的全新 macOS 27 帳號，用 API 操作，依秒計費。
BotBus
Chengdu Tuyang Tusen Technology Co., Ltd. · 程式設計 · 生產力BotBus 把電腦上執行的 AI 編碼代理帶到手機與手錶，讓你不在桌前也能核准指令、啟動任務、查看結果。