Thunder Compute
Thunder Compute · 其他
Thunder Compute 是為開發者打造的無伺服器 GPU 雲。它以分鐘計費租用 A100 與 H100 執行個體，並以秒為單位建立沙箱。
關於 Thunder Compute
什麼是 Thunder Compute
Thunder Compute 是雲端 GPU 供應商，為訓練模型、執行評估，或讓代理盡情消耗運算資源的人而生。你不必提前幾個月準備機器，也不用預留整座機櫃。你開口要一顆 GPU，不到一分鐘就拿到，跑完程式碼，工作結束就停止付費。這說明了一句話就能講完。不排隊，沒有閒置硬體。
這家公司起於一個系統研究實驗室。創辦人在 Georgia Tech 相識，當時研究人員得提前好幾週透過共用試算表預約 GPU 時間，只要有人占著預約，實驗就停擺。這個瓶頸後來成了產品：Thunder Compute 把 GPU 虛擬化，讓硬體持續運轉，而不是在兩次預約之間空轉。Y Combinator 在 2024 年夏季梯隊投資了這個團隊。
雲端 GPU 的價格和技術本身一樣是賣點。多數供應商會把用量進位成整小時，還會對流出的資料收費。這裡不會。那這到底能替你省下多少？取決於你現在白白浪費多少閒置時間。
服務分成兩個產品。執行個體是你連上後持續保留的 GPU 機器，運轉期間以分鐘計費。沙箱是短命的隔離工作，你可以用幾行 Python 一次展開數百個，以秒計費。兩者跑在同一批機隊上，如果你在意需要時 A100 租用與 H100 GPU 雲的容量還在，這點就有差。主要的限制在適用範圍：這是給已經會寫程式的人用的基礎設施。沒有拖放式的無程式碼介面，而且如果你的工作負載用筆電 GPU 就能跑，按小時租用通常不划算。先搞清楚自己買的是什麼。
如何開始
- 在主控台註冊並加入付款方式，因為 GPU 一開機就開始計費。
- 選擇編輯器或介面：VS Code 擴充功能、命令列、網頁主控台，或供代理工作流程使用的 MCP 伺服器。
- 用像
tnr create --gpu a100這樣的單一指令建立執行個體，或用thunder_sandbox函式庫從 Python 開啟沙箱。 - 從 VS Code、CLI 或瀏覽器連線，把現有程式碼拿到 GPU 上執行。
- 想保留環境就在結束時製作磁碟快照，接著關閉執行個體，讓計費停止。
產品資訊
快速了解 Thunder Compute 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 機器學習工程師：只在工作執行期間租用 A100 或 H100，因此不必為實驗之間的空檔付費。你得熟悉命令列或 Python。
- 跑評估的 AI 研究人員：沙箱產品讓你一次展開數百個平行 rollout，適合跑基準測試與強化學習環境。
- 緊盯資金存量的新創團隊：按分鐘計費加上沒有流出費用，讓開銷跟著實際用量走，當 GPU 支出是筆大項時特別有用。
- 代理開發者：MCP 伺服器把 GPU 存取接進需要隨需運算的代理框架。
任務
- 訓練與微調模型：啟動持續保留的 GPU 執行個體，接上編輯器，直接跑現有程式碼，不必為新平台重寫。
- 大規模執行 RL 環境與評估：一次啟動大量沙箱，每個都有自己的 GPU 或 CPU，再平行收集結果。
- 短時間爆發型工作：用沙箱的按秒計費處理幾分鐘就結束的任務，永遠不必為整整一小時付錢。
- 模型程式碼原型開發：為設定好的執行個體製作快照，下次執行時重複使用同一套環境。
情境
- 目前得提前好幾週預約共用 GPU 時間的研究實驗室。
- 在漫長推理迴圈中需要 GPU 幾分鐘的代理。
- 在簽下大筆雲端合約前，先測試較大模型是否適合自家流程的獨立開發者。
主要功能
按分鐘與按秒計費
執行個體在運轉期間按分鐘計費，沙箱則按秒計費。這個差距很關鍵：90 秒就結束的工作只花你 90 秒，而不是進位成整小時的費用。額外的 vCPU 與磁碟也照同一個時鐘走，快照儲存是唯一分開計費的部分，直到你刪掉它為止。很容易被忽略。帳單上卻很顯眼。
可保留與快照的執行個體
執行個體是你連上後持續待著的 GPU 機器。你挑選 GPU（RTX A6000、L40、A100 80GB 或 H100 SXM），設定 vCPU、RAM 與磁碟，結束時製作磁碟快照。快照會在兩次執行之間保留你的環境，因此下一回開始時就已經設定好，不必每次坐下來工作都重建同一套相依套件。當安裝腳本比工作本身還花時間，這就很好用。
供平行工作使用的 GPU 沙箱
沙箱是能上下擴展到零的隔離工作。你用 thunder_sandbox 函式庫從 Python 啟動，設定逾時，再平行展開數百個。每個都能帶自己的 GPU，或跑純 CPU 處理較輕的任務。它們結束時會被清除，讓隔離環境保持乾淨。對評估與強化學習來說，這種大規模展開正是重點。一台機器追不上數百個 rollout，幾十台可以。
多種進入方式
你可以從 VS Code 或 Cursor 擴充功能、命令列、網頁主控台或 MCP 伺服器操作 Thunder Compute。CLI 把設定壓縮成幾個指令。MCP 伺服器讓寫程式的代理自行要求 GPU。挑一個符合你既有工作方式的介面。
沒有流出費用
資料離開平台不收費。對要把大型資料集或模型檢查點搬進搬出的團隊來說，在其他供應商那裡，這筆帳常常比 GPU 本身還貴。Thunder Compute 直接把這個項目刪掉。如果你曾經下載 200 GB 的檢查點，然後看到一筆意外的收費冒出來，你會很感激這一項。免費就是免費。
為較大工作量提供的保留容量
當一顆 GPU 不夠用，保留容量提供 8 到 512 顆以上的 GPU，價格比隨需費率便宜。A100 保留從每 GPU 小時 1.49 美元起，隨需則為 1.09 美元，H100 保留則是每 GPU 小時 3.20 美元。這是給有穩定大型訓練需求的團隊，不是給偶爾跑一次的工作。小型單次測試還是留在隨需方案比較好。
優缺點
優點
- 按分鐘與按秒計費，代表你只在工作負載真的運轉時付費。
- 沒有資料流出費用，省掉一筆在大型模型傳輸時快速累積的成本。
- 四種介面（VS Code、CLI、主控台、MCP 伺服器）適合不同工作流程，包括由代理驅動的那種。
- 設定只要一個指令，GPU 不到一分鐘就準備好。
- 公布的價格比較顯示，在相近的 GPU 上比 Lambda、Runpod 與大型雲端供應商都便宜。
缺點
- 沒有免費方案，因此不先加付款方式就無法試用平台。
- 它是為會寫程式的開發者打造；沒有供非技術使用者使用的視覺化無程式碼介面。
- 多 GPU 保留容量從 8 顆 GPU 起跳，還得聯絡業務，這排除了小型單次工作，除非你本來就在跑大型訓練，否則這個折扣很難拿到。
常見問題
它為 AI 工作租用雲端 GPU：訓練與微調模型、執行評估與強化學習環境，以及給代理隨需運算資源。你在 GPU 上跑現有程式碼，而不是為平台重寫。
相關內容
探索與 Thunder Compute 相關的工具、技能與文章。
Thunder Compute 替代方案
BinkBink
BinkBink · 其他BinkBink 是一個免費的線上遊戲平台與 AI 遊戲製作工具，讓任何人都能把一段簡短的文字描述變成可玩的瀏覽器遊戲。你可以直接跳進數百款社群自製的遊戲。或者描述自己的想法，幾秒內就能玩，再分享給朋友。想建立自己的遊戲嗎？你不需要寫程式。不用設定引擎、不用下載、不必費心。
Audiogen
Audiogen Inc. · 其他Audiogen 是一款由 Audiogen Inc. 打造的 AI 音樂生成器。這支小型研究團隊花了約 2.5 年訓練自家生成式音樂模型，並圍繞它設計網頁介面。這款 AI 音樂工具捨棄單純的文字框，把時間軸變成對新手友善的生成式音訊工作站（Generative Audio Workstation，簡稱 GAW），其中的補繪、延伸、混音與音軌編輯，操作起來更像在畫布上彩繪。產品仍在 beta 階段，因此取用管道是候補名單或邀請碼。付費方案尚未公布。
Aiml API
AIMLAPI OÜ · 其他Aiml API 是一套統一的 AI 模型 API，把 OpenAI、Google、Anthropic 等超過 1000 個模型放在同一個端點與同一張帳單之後。你只要依照單一相容 OpenAI 的結構撰寫程式碼，接著改一個模型字串，就能在聊天、圖像、影片與音訊模型之間切換。它適合想取得多模型存取、又不想管理十幾個供應商帳號的開發者與小型團隊，也省去了測試多家廠商時常見的帳務麻煩。一組金鑰就能涵蓋全部。