RunPod

Runpod 是一個為 AI 與機器學習工作設計的雲端運算平台。Zhen Lu 與 Pardeep Singh 在 2021 年創辦它，起因是他們撞上了許多開發者都碰過的同一道牆：租一張 GPU 又慢又貴，還被繁瑣手續淹沒，租用 H100 尤其如此。Runpod 的解法是按用量計費，你幾秒就能啟動一張 GPU，並以秒計費，而不是為保留時數買單，這也重新定義了小團隊眼中的 GPU 雲端價格。

平台把硬體分成兩個資源池。Community Cloud 使用合作資料中心的閒置 GPU，是較便宜的選擇。Secure Cloud 在認證資料中心運行，適合需要穩定效能與合規的正式環境工作負載。兩個資源池提供相同的核心產品，因此你可以把 AI 模型部署到 GPU Pods 當作專用執行個體、以無伺服器 GPU 形式提供服務、用 AI 推論 API 處理隨請求而來的負載，或預訂 Clusters 執行多節點訓練。

最主要的限制是你得自己管理環境。Runpod 提供機器與網路，但安裝框架、上傳模型、調校效能都得靠你自己。如果你想要完全託管、零設定的模型 API，Runpod 不會替你處理這部分。

Getting Started

1. 建立 Runpod 帳號並儲值。多數工作負載採預付制，新帳號通常會拿到一筆起始額度。
2. 在部署主控台挑選 GPU 與雲端類型，或選用已預裝 PyTorch 等框架的現成範本。
3. 啟動 Pod，再透過 SSH、Jupyter 或網頁終端連線。
4. 若要推論，用你自己的容器部署無伺服器端點，或使用 Runpod Hub 的範本。
5. 對端點送出請求，讓工作節點自行擴充與縮減。