TensorPool
TensorPool · 程式設計
TensorPool 是一個 GPU 雲端平台，也是隨需 GPU 叢集服務，透過 CLI 租用 B200、B300、H100 與 H200 叢集，並提供 git 風格的工作、共享 NFS 儲存與每分鐘計費。
關於 TensorPool
About
TensorPool 是什麼
TensorPool 是一個按小時租用 GPU 叢集的雲端平台。它鎖定訓練與微調模型的機器學習工程師，這些人不想自己處理各家供應商的帳號、額度申請或 spot 中斷。你把工作寫進一份簡短的設定檔，推送出去，TensorPool 就會在多家供應商之間尋找容量並執行。
賣點是速度與價格。TensorPool 公開列出價格，H100 SXM 每小時 1.99 美元的隨需費率遠低於大型供應商的收費。想租用 H100 GPU，或把租用 B200 GPU 的價格拿來跟超大規模雲端比較，定價頁面會把數字並排呈現。容量從單張 GPU 到數百張的叢集都有，取決於你選的方案。
最大的門檻在於：TensorPool 圍繞開發者工作流程打造，不是按鈕式的儀表板。你需要熟悉終端機，並具備以容器為中心的想法。部分地區還得靠 spot 與可中斷的容量，若不使用它的恢復功能，長時間無人看管的執行會有風險。
開始使用
- 用 GitHub 或電子郵件在 tensorpool.dev 註冊，替 GitHub 儲存庫按星號即可領取 20 美元的免費額度。
- 安裝 TensorPool CLI，並用帳號權杖完成驗證。
- 寫一份工作設定，載明 GPU 型號、容器映像與要執行的指令。
- 用 CLI 推送工作。TensorPool 會挑最便宜的可用供應商並開始執行。
- 透過 CLI 取回日誌與輸出，或在執行期間即時查看。
產品資訊
快速了解 TensorPool 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 機器學習工程師：只要熟悉終端機，就能取得彈性的 GPU 存取，不必逐家開設供應商帳號。
- 小型研究團隊：不用簽保留合約就能從一張 GPU 擴到數百張，但長期承諾的折扣得聯絡業務。
- 預算吃緊的新創：免費額度與低廉時薪壓低初期訓練成本，前提是工作負載能接受 spot 容量。
任務
- 微調大型語言模型：工作可跑在掛載共享儲存的 H100 或 B200 叢集上，檢查點因此能撐過重新啟動。
- 平行跑實驗：nb.dev 筆記本能把一台機器的狀態快照下來，同時分支到多張 GPU 上。
- 批次推論與資料處理：CLI 送出容器化工作，結束後回傳結果，適合可重複的管線。
情境
- 徹夜訓練：spot 恢復會在被中斷後把工作重啟到新硬體上，長時間的執行不會白費。
- 不簽合約就用訓練模型的 GPU 雲端：按小時計費讓你試一個想法就停，不必背月費承諾。
- 為了省 GPU 開銷而離開超大規模雲端的團隊：TensorPool 以更低的隨需費率列出相同 GPU，規格相當。
主要功能
以 CLI 為核心的 GPU 工作
TensorPool 透過命令列工具執行工作，而不是網頁主控台。你在設定檔裡定義一份工作，然後像推送 commit 一樣推送它。這對本來就待在終端機裡的工程師很順手，也讓 GPU 資源調度能接上既有的腳本與 CI 管線。
git 風格的工作流程
工作表現得像程式碼變更。你送出一份工作、盯著它的狀態，結束後把結果拉回來。TensorPool 只就執行時間計費，步驟之間閒置不會累加到帳單。這套模式更適合可重複的訓練管線，而非一次性的互動工作階段。
跨供應商的 spot 恢復
CLI 背後有一套排程器，會在多家 GPU 供應商之間比價，挑出符合工作的最便宜選項。可中斷的執行個體被收回時，智慧 spot 恢復會在新硬體上重啟執行，訓練得以繼續，不必人工介入。
nb.dev 機器學習筆記本
nb.dev 是 TensorPool 版的 Jupyter，為機器學習工作而做。它能即時替任何筆記本掛上一張 GPU，把整台機器的狀態（含 GPU 記憶體與模型權重）快照起來，再把這份快照分支到任意數量的新機器上。反覆嘗試因此變成平行實驗。
共享 NFS 與物件儲存
TensorPool 提供高效能的共享 NFS 儲存，外加相容 S3 的物件儲存。物件層在全球分散，並把資料快取在 GPU 附近，官方說這能降低跨區域延遲，優於 Cloudflare R2。共享儲存讓資料集與檢查點在工作的每個節點都取得到。
容器化執行
每份工作都在容器裡跑，因此你自帶環境與相依套件。這樣能避開手工架設 GPU 伺服器常見的版本走樣，也代表在你筆電上能跑的工作，到了叢集上行為一致。
透明的每小時定價
TensorPool 定價頁面逐張列出 GPU 的時薪，並直接與 Lambda Labs 及大型雲端比較。B200 每小時 4.99 美元，L40S 為 1.49，CPU 為 0.015。沒有隱藏的平台費，儲存則按 TB 另行計費。
彈性擴充至 128 張 GPU
標準方案涵蓋最多 128 張隨需 GPU，企業合約可擴到數千張，並附 99.9% 可用性的 SLA。團隊能從單張卡起步，用同一套工作流程長成大型叢集，不必更換平台。
優缺點
優點
- H100 隨需費率約每小時 1.99 美元，在規格相當的硬體上低於大多數超大規模雲端。
- CLI 與 git 風格的工作貼合既有工程流程，不必被迫改用新儀表板。
- spot 恢復會自動重啟被中斷的工作，減少長時間訓練的損失。
- 20 美元免費額度且無月費門檻，讓人在正式投入前能便宜測試。
- 共享 NFS 與相容 S3 的儲存讓資料集與檢查點在所有節點都取得到。
缺點
- 沒有功能完整的圖形主控台來管理工作，非技術使用者會很吃力。
- 長期承諾的折扣與大規模保留須聯絡業務，且沒有公開定價。
- 平台在部分地區依賴 spot 容量，為啟動時間與穩定度增添變數。
- 文件與支援主要在 Slack 與 Discord，答案不一定查得到。
常見問題
TensorPool 租用 GPU 叢集，供機器學習訓練、微調與推論使用。你透過 CLI 送出容器化工作，平台負責跨供應商的資源調度，你不必自己管理雲端帳號。
相關內容
探索與 TensorPool 相關的工具、技能與文章。
TensorPool 替代方案
Forefront
Forefront · 程式設計Forefront 是一個用來打造開源 AI 的網頁平台。你可以用自己的資料微調主流的開源語言模型、評估它們的表現，再透過 API 執行，或匯出後自行架設。想要封閉式平台的便利、卻堅持要自己擁有模型與資料的開發者，就是這裡的目標客群。
Startkit
StartKit.AI · 程式設計Startkit 是一套用來打造 AI SaaS 與 AI 包裝產品的樣板。可以把它想成一個 AI 新創樣板，把枯燥的部分都先接好了：驗證、Stripe 與 Lemon Squeezy 付款、用量限制、交易型電子郵件，以及一套能與 OpenAI、Anthropic、Groq 或 Llama 溝通的 AI API 啟動套件。你複製儲存庫、設定價格，然後專心在產品中使用者真正願意付費的部分。它建構於 React 與 Tailwind 之上的 Next.js，所以大部分的樣板程式碼對你來說並不陌生。
Testim
Tricentis · 程式設計Testim 是專為網頁、行動與 Salesforce 應用程式打造的 AI 測試自動化平台，用來建立並執行端到端測試。它靠機器學習在介面變動時維持測試穩定，團隊因此少花時間修補壞掉的定位器。對於一款今天就能開始使用的自動化測試工具來說，這表現不算差。你透過在瀏覽器錄製動作來建立測試，需要更多控制時再補上 JavaScript。對忙碌的 QA 團隊來說，這是個可靠的選擇。