Unsloth
Unsloth AI · 程式設計
Unsloth 是一套開源平台，讓你在自己的機器上執行與訓練 AI 模型，無論是使用桌面應用程式、Studio 網頁介面，還是純 Python。作為 LLM 微調工具，它因為讓 LoRA 與 QLoRA 訓練快得多、同時使用少得多的 GPU 記憶體而走紅。它也能當作本機 AI 模型訓練器，因此你可以在本機執行 LLM 來進行推論、RAG 與代理工作流程。軟體本身不用付費。硬體由你準備，程式碼則依 Apache 2.0 授權保持免費。
關於 Unsloth
什麼是 Unsloth
Unsloth 是一套免費工具，可在你自己的硬體上訓練與執行大型語言模型（LLM）與擴散模型。它一開始是開源的 LLM 訓練函式庫，改寫了 LoRA 工作中緩慢的部分，如今已成長為完整的本機平台。其中包括 Windows、macOS 與 Linux 的桌面應用程式，以及用來瀏覽模型、聊天與管理工作站的 Studio 介面。
它解決的主要問題是資源飢渴。過去微調需要昂貴的 GPU 和大量設定。現在不必了。有了 Unsloth，你可以在單張消費級顯卡上微調數十億參數的模型。官方筆記本讓你免費在 Google Colab 或 Kaggle 上試用。該公司表示，其核心運算讓訓練最快達 2 倍，並大幅降低記憶體用量，因此過去需要資料中心顯卡的模型，現在可能放得進一台遊戲 PC。
但難處在技術面。Unsloth 活在 Python 與命令列裡，筆記本工作流程也預設你知道什麼是資料集與訓練執行。對完全的初學者沒有手把手的引導，而執行大型模型仍需要一張有足夠 VRAM 的真實 GPU。那如果你用的是手機呢？那這就不是你要找的工具。
開始使用
- 檢查你的硬體。Unsloth 可在 Windows、Linux、WSL 與 macOS 上運作，並支援 NVIDIA、AMD 與 Intel GPU，以及 CPU 與 Vulkan 後端。官方文件列出每種模型大小的最低 VRAM 需求。
- 選擇安裝方式。從官網或 GitHub Releases 下載桌面應用程式、執行安裝腳本，或使用 Docker 映像檔。若要撰寫程式，請用 pip 安裝 Python 套件。
- 想跳過設定的話，就打開免費筆記本。Colab 與 Kaggle 筆記本附帶 GPU 運算資源，你只要加入自己的資料集。
- 載入模型與資料集。先挑一個小型 instruct 模型之類的來起步，接著把筆記本指向你的資料。
- 訓練、儲存與匯出。執行訓練儲存格，然後合併或匯出權重，並在本機提供模型服務。
產品資訊
快速了解 Unsloth 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 擁有消費級 GPU 的個人開發者與愛好者：只要熟悉 Python，你就能微調過去需要租用硬體的模型。
- 進行實驗的機器學習研究者：更快的訓練代表每天能跑更多次迭代，而免費的 Colab 與 Kaggle 筆記本也降低了入門成本。
- 想要私有本機 AI 的小型團隊：一切都在你自己的機器上執行，因此訓練資料與提示詞不會離開你的網路。
任務
- 用領域資料微調 LLM：透過監督式微調或偏好方法，教基礎模型你公司的語氣或某個利基領域。
- 強化學習執行：用 GRPO 與相關技術，透過同一套工作流程訓練推理行為。
- 以 RAG 與代理執行本機模型：用私有搜尋、工具呼叫與程式碼執行來提供訓練好的模型服務。
情境
- 在不產生雲端帳單的情況下製作 AI 功能原型：筆記本提供免費 GPU 時間，讓你在投入硬體之前先測試想法。
- 讓敏感資料遠離第三方伺服器：法律、醫療與財務文本在訓練與推論期間都能留在你自己的機器上。
- 為筆電或工作站打造專用助理：匯出微調後的模型，在本機執行以處理日常工作。
主要功能
更快、更省記憶體的微調
Unsloth 用自訂核心改寫了 LoRA 與 QLoRA 訓練中緩慢的部分，因此訓練更快完成，也能塞進更少的 VRAM。該公司回報訓練最快達 2 倍，並大幅節省記憶體，同時不犧牲準確度。實務上，過去需要租用 GPU 的微調，現在能在單張消費級顯卡上執行。
免費的 Colab 與 Kaggle 筆記本
該專案提供可直接執行的筆記本，涵蓋 Qwen、Gemma、DeepSeek 與 gpt-oss 等模型。你點一下「Run all」，加入資料集，就能訓練，不必手動設定驅動程式或 CUDA。這是安裝任何東西之前，試玩微調最快的方式。
桌面應用程式與本機 Studio 介面
Windows、macOS 與 Linux 的原生桌面應用程式，提供執行與訓練模型的本機介面。搭配的 Studio 筆記本則讓你以點選操作而非寫程式的方式，瀏覽模型、與之交談並管理訓練。它涵蓋 22B 參數以下的模型。
本機推論、RAG 與代理
Unsloth 不只是用來訓練。你可以用私有網頁搜尋、檢索式生成（RAG）與滾動脈絡，在本機提供模型服務。它能連接 Claude Code、Codex 與 MCP 伺服器等工具。工具呼叫與程式碼執行也能運作，因此本機模型可以擔當助理。
廣泛的模型與硬體支援
它能執行文字、視覺、音訊、嵌入與擴散模型，並可在 NVIDIA、AMD 與 Intel GPU 以及 CPU 與 Vulkan 後端上運作。多 GPU 組態也支援，而且同一套安裝涵蓋 Windows、Linux、WSL 與 macOS，無論你插一張或多張顯卡。這樣的廣度意味著你在組裝設備時不會被單一廠商的硬體綁死。
遠端與區域網路存取
你可以從區域網路上的任何裝置存取本機模型，或透過 Cloudflare HTTPS 安全地經由網際網路存取。這讓單張桌面 GPU 變成一台小型私有模型伺服器，可從手機或另一台機器使用。
優缺點
優點
- 依 Apache 2.0 授權免費且開源，核心軟體無需訂閱。
- 微調在速度與記憶體上有大幅提升，降低了在自己的 GPU 上訓練的成本。
- 免費的 Colab 與 Kaggle 筆記本讓你不用擁有硬體就能測試工作流程。
- 廣泛的模型與硬體支援，包括 NVIDIA、AMD、Intel 以及純 CPU 組態。
- 從訓練延伸到本機推論、RAG 與代理應用。
缺點
- 工作流程以程式碼為先，因此初學者在 Python 與資料集上面對真實的學習曲線。
- 較大型模型仍需一張記憶體充足的夠力 GPU，因此硬體不足會限制你能訓練的範圍。
- 不提供託管 API，這意味著你得自行處理服務與擴充。
- 文件更新快速，而變化迅速的專案可能讓較舊的教學過時。
常見問題
是。Unsloth 依 Apache 2.0 授權開源，核心軟體不需付費。你只需負擔自己的硬體。雲端 GPU 時間是選用的。
相關內容
探索與 Unsloth 相關的工具、技能與文章。
Unsloth 替代方案
Forefront
Forefront · 程式設計Forefront 是一個用來打造開源 AI 的網頁平台。你可以用自己的資料微調主流的開源語言模型、評估它們的表現，再透過 API 執行，或匯出後自行架設。想要封閉式平台的便利、卻堅持要自己擁有模型與資料的開發者，就是這裡的目標客群。
Startkit
StartKit.AI · 程式設計Startkit 是一套用來打造 AI SaaS 與 AI 包裝產品的樣板。可以把它想成一個 AI 新創樣板，把枯燥的部分都先接好了：驗證、Stripe 與 Lemon Squeezy 付款、用量限制、交易型電子郵件，以及一套能與 OpenAI、Anthropic、Groq 或 Llama 溝通的 AI API 啟動套件。你複製儲存庫、設定價格，然後專心在產品中使用者真正願意付費的部分。它建構於 React 與 Tailwind 之上的 Next.js，所以大部分的樣板程式碼對你來說並不陌生。
Testim
Tricentis · 程式設計Testim 是專為網頁、行動與 Salesforce 應用程式打造的 AI 測試自動化平台，用來建立並執行端到端測試。它靠機器學習在介面變動時維持測試穩定，團隊因此少花時間修補壞掉的定位器。對於一款今天就能開始使用的自動化測試工具來說，這表現不算差。你透過在瀏覽器錄製動作來建立測試，需要更多控制時再補上 JavaScript。對忙碌的 QA 團隊來說，這是個可靠的選擇。