Salad - GPU Cloud
Salad Technologies · 程式設計
Salad 是分散式 GPU 雲端，能在 190 多國、每天約 16,000 顆活躍 GPU 上執行 AI 容器與開放權重模型，每 GPU 小時約 0.015 美元起。
關於 Salad - GPU Cloud
What Is Salad
Salad 的 GPU 雲端架在自家並不擁有的硬體上。它不把資料中心塞滿規格一致的機櫃，而是把世界各地遊戲電腦、小型辦公室閒置的消費級與工作站 GPU 集合起來，再租給跑 AI 工作負載的開發者與企業。這樣的算力池比傳統雲端便宜許多。不過它在幾個地方的行為也和傳統雲端不一樣。
平台涵蓋三塊，本身就是一套 AI 推論平台。你可以把 Docker 容器部署到遍布各地的 RTX 系列 GPU 網路，透過相容 OpenAI 的詞元端點呼叫開放權重模型，或用專屬 API 做語音轉錄與語音合成。同一套調度層能跑在 Community Cloud、預留的 Dedicated 硬體，以及部署在你自家機器上的 Private Cloud。
最大的取捨在於可預測性。節點屬於個人使用者，機器一離線，執行個體就可能被重新分配或中斷。Salad 用優先級與自動重新分配來處理這件事，但它適合能容忍中斷的工作負載，不適合要求全天候穩定運轉的固定叢集。
Getting Started
- 建立 SaladCloud 帳號並完成資料驗證。
- 在入口網站產生 API 金鑰；若只需要模型詞元，就申請 AI Gateway 的金鑰。
- 把工作負載打包成 Docker 容器，或從 Gateway 目錄挑一個開放權重模型。
- 透過入口網站或一行 API 呼叫部署，設定優先級與副本數量。
- 串流查看日誌並確認結果，只有在執行個體運行時才會計費。
產品資訊
快速了解 Salad - GPU Cloud 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 預算緊繃的 AI 新創：做圖像生成、語音轉錄或批次推論的團隊能大幅壓低算力支出，前提是設計時就要把偶發中斷算進去。
- 獨立開發者與個人創作者：一組 API 金鑰加上每秒計費，想試一個點子不必先綁月租方案。
- 正在打造推論流程原型的機器學習工程師：容器模式沿用標準 Docker 流程，既有服務搬過來不用大改。
任務
- 批次圖像與影片生成：可重試的工作放在最低優先級最划算，被搶佔只會讓佇列變長，不會弄丟成果。
- 語音轉錄與語音合成：專屬 API 以音訊時數計費，很適合播客與通話錄音的處理流程。
- 提供開放權重的大型語言模型：AI Gateway 以相容 OpenAI 的端點提供對話、串流與工具呼叫，現有 SDK 換個基礎網址就能用。
情境
- 把展示版推進到正式環境，又不想預留資料中心容量：副本隨需求啟動，閒置時直接降到零。
- 讓研究經費撐得更久：相同預算能買到比主流超大規模雲端多好幾倍的 GPU 時數。
- 讓敏感推論留在家裡：Private Cloud 把調度堆疊部署在你自己的組織內。
主要功能
分散式 GPU 資源池
Salad 把容器調度到超過 190 國、每天約 16,000 顆活躍 GPU 上，來源是遊戲電腦與工作站。這些硬體早就存在，平台是去整合供給，而不是出錢蓋新資料中心。價格能壓低，靠的就是這一點。
Salad Container Engine
這層調度負責 GPU 容器部署，節點甚至是它從沒見過的機器。它會驗證每一台主機、用虛擬化層隔離，並在節點消失的瞬間重新分配工作。你只要交出一份 Docker 映像與幾項資源設定，不必手動調校伺服器。
AI Gateway
Gateway 是相容 OpenAI 的 API，提供 Qwen 3.6、Qwen 3.5 等開放權重模型。較大的版本帶有 262,144 詞元的上下文視窗。把任何 OpenAI SDK 指向新的基礎網址，你的代理、程式助理或應用程式就能改按詞元或固定月費計價。
優先級與每秒計費
四種優先級讓你在穩定度與成本之間取捨。高優先級不會被搶佔，最低階最便宜也最容易被打斷。執行個體一停止計費就停，配置、映像下載與冷啟動都不收費。
各模態的專屬 API
Salad 針對特定任務推出調校過的端點。語音轉錄 API 在 CommonVoice 上達到 95.1% 準確率，語音合成服務則標示每美元最高可處理 600 萬字。每個數字都連到公開的方法說明，不是行銷話術。
私有與專屬部署
除了共用資源池，預留的 Dedicated 伺服器以合約形式搭載 RTX PRO 6000 Blackwell，Private Cloud 則把同一套調度堆疊授權給你手上的硬體。走 Private Cloud 時，公司資料留在公司自己的裝置上。
優缺點
優點
- 租用 GPU 便宜：分散式雲端裡一顆 RTX 4090 節點每小時約 0.015 美元起，換算成雲端 RTX 4090 的價格，只有主流雲端同類工作的一小部分。
- 每秒計費、不綁合約也沒有最低用量，小規模實驗跑起來很省。
- 容器引擎與 AI Gateway 沿用 Docker 與 OpenAI 的標準工具，遷移工作量少。
- 語音轉錄與語音合成有專屬端點，常見的音訊任務開箱就能用。
- Private Cloud 與 Dedicated 方案讓敏感工作負載留在你能掌控的硬體上。
缺點
- 節點擁有者一離線，執行個體就可能被搶佔或中斷，需要長時間運轉的服務得自己加上重試邏輯。
- 節點是家用與小型辦公室的消費級 GPU，做不了資料中心才撐得起的緊密耦合多卡訓練。
- 沒有免費試用，第一次測試就要付費；入門成本不高，但沒有真正免費的空間。
- AI Gateway 仍在早期試用階段，模型目錄比專門的詞元供應商窄。
常見問題
不會。只有在執行個體處於運行狀態的那幾秒才計費，配置、映像下載與容器啟動都免費。
相關內容
探索與 Salad - GPU Cloud 相關的工具、技能與文章。
Salad - GPU Cloud 替代方案
Base Code
Base44 (Wix) · 程式設計 · 生產力Base Code 是 Base44 推出的共享雲端開發環境。團隊在對話中描述對既有 GitHub 儲存庫的修改，看著預覽確認結果，再以 Pull Request 交回工程團隊。
Google EmbeddingGemma 2
Google DeepMind · 寫作 · 圖片 · 程式設計Google EmbeddingGemma 2 是 7.4 億參數的開源模型，能把文字、程式碼、圖片、音訊與影片畫面轉成同一個 768 維空間裡的向量，在手機與筆電上就能執行。
GitGlow
GitGlow · 程式設計 · 生產力GitGlow 是桌面版 Git 用戶端，把你自己的程式碼與 AI 代理程式的變更集中在同一份審查裡，讓你在交付前看清楚機器上究竟要送出什麼。