Exla FLOPs
Exla · 程式設計 · 其他
Exla FLOPs 是 Exla 推出的隨需 GPU 叢集服務，幾分鐘就能開好多節點 NVIDIA 叢集並以分鐘計費，硬體涵蓋 H100、H200 與 A100 等級。
關於 Exla FLOPs
What Is Exla FLOPs
Exla FLOPs 是一項隨需租用 GPU 叢集的服務，由 Y Combinator 2025 冬季梯次的 Exla 打造。你選好 GPU 型號、決定數量，幾分鐘內就拿到一台能走 SSH 的多節點叢集。不用預約、不用等業務來電、沒有最低綁約，對現在就要訓練算力、等不到下個月的團隊來說很合用。
它要解決的是「拿不到機器」。想一次要到一大批 H100，通常得等雲端供應商的業務、或先簽一份合約，而這段排隊正是實驗還沒開始就先卡住的原因。Exla FLOPs 把排隊拿掉，讓叢集隨時在線並以分鐘計費，所以 16 張或 128 張 GPU 的突發需求，就像水龍頭一樣開了就有、關了就停。
有幾個限制最好先知道。叢集跑的是真的 NVIDIA 資料中心硬體，供應量是估算值、隨時會變，熱門型號在你需要時可能剛好被借光。另外你是對運轉中的硬體按分鐘付費，這代表閒置的叢集會一直燒錢，直到你把它關掉。存取走 SSH，所以它適合習慣用終端機或 API 的人，不是那種開網頁就能用的代管筆記本。
Getting Started
- 登入 Exla FLOPs 儀表板並儲值到錢包，因為開叢集需要至少一小時用量的餘額。
- 註冊一組 SSH 公鑰，節點開機後才能連上去。
- 選好 GPU 型號與數量，然後啟動叢集。Exla 說登入後五分鐘內就能開始訓練。
- 用 SSH 連進去，或改用 API 金鑰從程式碼跑同樣的步驟；工作結束就把叢集關掉，計費才會停。
產品資訊
快速了解 Exla FLOPs 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 跑訓練的機器學習工程師：不用簽約就能開多節點 GPU 叢集，前提是團隊習慣用 SSH 作業。
- 預算有限的研究實驗室：以分鐘為單位租 H100 等級硬體做一次性實驗，不必先預留用不到的算力。
- 需要突發算力的新創：發表週臨時加開 GPU，高峰過後再關掉，還能選擇以分鐘計費 GPU、不必預約。
- 平台與 MLOps 團隊：用 API 金鑰從 CI 開叢集，以隨需方式取得 AI 訓練運算，並透過錢包控管花費。
任務
- 微調大型模型：把 16 張以上 GPU 組成一個叢集，NCCL 與驅動程式都已備好。
- 分散式訓練：用節點之間的 InfiniBand 網路串起分散式訓練叢集，讓多節點工作保持同步。
- 短時推論或效能測試：只租幾小時你需要的那款 GPU，跑完就釋放。
情境
- 研討會前的趕工：今天先加開 GPU，訓練跑完再降回原本規模。
- 測試手上沒有的硬體：比較 A100 與 H100 的吞吐量，並先查 H100 SXM5 價格再決定，兩張都不必買。
- 需求暴增：高峰時把節點數拉高，尖峰一過就關掉叢集，立刻停止計費。
主要功能
多節點叢集隨開隨用
Exla FLOPs 主打的就是快。你用一個或多個節點組成叢集，幾分鐘就開好，官網更說登入後五分鐘內就能訓練。對習慣等上幾週才拿到算力的團隊來說，這個轉變就是重點。
以分鐘計費
計費按你實際用到的運算量逐分鐘計算，關掉叢集就當場停止計費。沒有最低消費，也沒有閒置保留費，短期實驗便宜，長期用途則能預估。你得先儲值錢包，開叢集前餘額至少得撐一小時。
混搭不同 GPU 型號
一個叢集可以混用不同型號與不同節點數，所以能在工作負載允許的地方，把貴的 H100 跟便宜的卡搭在一起。官網提醒混用架構可能影響效能與精度，所以它是給能承受這件事的工作用，不是預設選項。
節點備妥可直接 SSH 做分散式訓練
每個節點都預載了 NCCL、驅動程式與你的 SSH 金鑰，要做分散式訓練不必先花一天佈署環境。你在儀表板註冊一次公鑰，之後叢集都能沿用。
專屬且隔離的節點
每個叢集都拿到專屬節點與私有互連，你的模型權重與資料不會跟其他客戶共用同一台機器。官網把這種隔離當成預設、而非加購項，這點在你用自家資料訓練時格外重要。
API 與儀表板存取
除了儀表板，你也可以建立 API 金鑰，從程式碼或 CI 流程開關叢集。文件把端點整理成人與程式代理都能直接複製使用，另有一個公開的 GPU 型號端點會回傳即時價格與供應量。
涵蓋多種 GPU 的真實算力
服務範圍包含 H100 SXM5、H200、A100 SXM、L40S、RTX 4090、RTX 5090 與 A6000 等級硬體，供應量則以估算值呈現。涵蓋面廣，代表就算旗艦型號被借光，通常也還找得到合適的卡。
優缺點
優點
- 叢集幾分鐘就開好，不用預約也不用等業務，省下往往會卡住整場訓練的等待時間。
- 以分鐘計費、沒有最低消費，短期工作便宜，一關掉就停止計費。
- 多節點叢集把 NCCL、驅動程式與 SSH 金鑰都備好，省掉手動佈署。
- 專屬節點與私有互連，讓訓練資料不會落在共用硬體上。
- 有 API 與公開價格端點，CI 與程式代理都能用程式開叢集。
- 型號從 H100、H200 一路到 L40S 與 RTX，能依工作挑合適的硬體。
缺點
- 沒有免費方案，開叢集前還得先儲值錢包，所以試用一樣要花錢。
- 供應量是估算值、隨時會變，熱門型號可能在你需要時剛好沒有。
- 閒置叢集會一直計費到關掉為止，忘記關就等於在燒預算。
- 存取以 SSH 與 API 為主，沒有代管筆記本，對技術門檻較低的用戶不太友善。
常見問題
Exla FLOPs 是 Exla 推出的隨需 GPU 叢集服務，Exla 是 Y Combinator 2025 冬季梯次的團隊。你幾分鐘就能開好多節點 NVIDIA 叢集並以分鐘付費，用來訓練、微調與其他吃重運算的工作。
相關內容
探索與 Exla FLOPs 相關的工具、技能與文章。
Exla FLOPs 替代方案
Udon
Udon · 程式設計 · 生產力Udon 把 Apple Silicon 的 Mac 變成 Mac 家庭伺服器，從瀏覽器就能管理容器與檔案共享，並可選擇啟用 AI 系統管理員。
offstage
offstage cloud · 程式設計 · 生產力offstage 給 AI 代理與 CI 工作一台真正的 Mac：Apple 晶片上的全新 macOS 27 帳號，用 API 操作，依秒計費。
BotBus
Chengdu Tuyang Tusen Technology Co., Ltd. · 程式設計 · 生產力BotBus 把電腦上執行的 AI 編碼代理帶到手機與手錶，讓你不在桌前也能核准指令、啟動任務、查看結果。