LM Studio
Element Labs (LM Studio) · 其他 · 聊天機器人
LM Studio 是一款桌面應用，讓你在自己的電腦上執行開放式 AI 模型。它的代理 Bionic 處理文件、程式碼與語音輸入，本機伺服器則用相容 OpenAI 的 API 把模型分享出去。
關於 LM Studio
About
什麼是 LM Studio
LM Studio 是一款桌面應用，會下載開放式語言模型並在你的硬體上執行。你在連接 Hugging Face 的目錄裡挑選模型，選一個記憶體與顯示卡撐得住的規格，就能開始對話。權重存到硬碟之後，本機 LLM 完全在你的電腦上運作。
較新的版本叫做 LM Studio Bionic，把同一套應用變成帶代理的工作空間。你開一個專案、交辦一件事，代理會讀取檔案、編輯文件、寫程式碼，甚至操作桌面的部分功能。底層仍然是本機模型。遇到 GPU 扛不住的大型任務，你可以把那個工作階段切換到美國主機上的開放式模型，不必換工具。
真正吸引人的是省下來的設定工夫。不用建 Python 環境、不用對齊 CUDA 工具組、不用手動改設定檔。LM Studio 會先檢查你的電腦，告訴你哪些模型跑得順、哪些會卡。這個在下載 20 GB 之前做出的判斷，幫新手省下一整個白費的晚上。
限制也一樣要講清楚。這套應用不開放原始碼，所以無法稽核、無法分支。模型大小取決於你的記憶體與顯示記憶體，筆電因此跑不動最大的開放式模型。它的設計對象是一個人坐在桌前，不是整天把同一個端點打爆的團隊。
開始使用
- 到 lmstudio.ai 下載 macOS、Windows 或 Linux 版本並開啟。只是瀏覽模型目錄的話，不需要註冊帳號。
- 用名稱搜尋模型，或直接看推薦清單，那份清單會依照偵測到的記憶體與 GPU 篩選。先從比你預期更小的模型開始。
- 下載權重並載入模型。應用會自動挑引擎，Apple Silicon 用 MLX，其餘用 llama.cpp，同時顯示有多少層放上了 GPU。
- 在內建視窗對話，或把一份 PDF 和一張試算表丟進專案，直接對內容發問。
- 當程式腳本需要存取時，打開本機伺服器。它預設監聽 1234 埠，講的是 OpenAI 的 chat completions 格式，原本的用戶端套件只要換掉網址就能用。
產品資訊
快速了解 LM Studio 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 重視隱私的專業工作者：合約、醫療筆記與內部草稿可以拔掉網路線處理。前提是至少要留 8 GB 記憶體，模型才堪用。
- 測試提示詞的開發者：你在 localhost 取得真正的端點，不必按權杖付費，跑 200 次測試幾乎不花錢。超大型模型塞不進筆電。
- 想理解 LLM 行為的學生與玩家：溫度、上下文長度與量化都變成可以拉動、可以觀察的設定。心裡先留兩個晚上讀資料，設定才會開始講得通。
任務
- 離線彙整長文件：把一份 PDF 或一整份筆記放進專案，請它用白話寫摘要。品質取決於模型，7B 等級會漏掉大模型抓得到的細節。
- 撰寫與重構程式碼：Bionic 代理能開啟一份程式庫、跨檔案修改並執行指令，全程用本機模型。碰上大型程式碼庫，你會在同一個應用裡改用雲端模型。
- 起草與修訂工作文件：代理在專案內建立與修改文字和簡報，每次更動都自動存檔。若要精細控制排版，它還比不上專門的文書套裝。
- 用本機端點驅動其他應用：把聊天用戶端、IDE 外掛或智慧家庭腳本指向本機伺服器，它就跟任何 OpenAI 用戶端一樣聽話。這涵蓋個人整合，不是高流量的服務。
情境
- 在飛機上或網路被封的工作環境：模型下載後就能離線運作，語音也在裝置上轉寫。記得留儲存空間，幾個模型就能吃掉 50 GB。
- 把客戶的敏感資料留在公司內：法律、醫療與財務文字整段流程都待在你的硬碟。雲端功能是選用的，除非你主動挑選主機模型，否則不會開啟。
- 從家裡的機器而不是桌機提供模型：無介面守護程序在 Mac、Linux、Windows 上都能一行指令安裝，把同一組 API 提供給網路上的所有裝置。
主要功能
模型目錄與硬體檢測
應用內建一份可搜尋的開放式模型索引，資料來自 Hugging Face，並依你的機器實際能力篩選。每一筆都標示檔案大小、量化方式與順暢度評級，你一眼就能分辨跑得滑順的 8B 和會動用硬碟、頻頻停頓的 70B。下載中斷會自動續傳與重試。對多數人來說，正是這項功能把 LM Studio 和裸裝的 llama.cpp 區隔開來。
文件與程式碼代理 Bionic
Bionic 是疊在模型之上的專案式代理層。你開一個專案，為單一任務啟動一個工作階段，讓它讀取檔案、寫入內容、執行指令。文件工作階段會建立與修改文字和簡報，並自動存檔。程式碼工作階段則橫跨整份程式庫。同一個專案可以同時跑多個工作階段，當研究工作與建置工作不該共用上下文時特別好用。
相容 OpenAI 的本機伺服器
一個開關就把載入的模型變成位於 localhost:1234 的 HTTP 端點，請求格式與 OpenAI 的 chat completions API 相同。原本的 SDK 與用戶端只要換掉網址、填一個佔位金鑰就能運作。另外還有 SDK 與命令列工具可以寫腳本，支援工具呼叫與結構化輸出的模型也能直接使用。本機打樣時，連假伺服器都不必架。
MLX 與 llama.cpp 雙引擎
LM Studio 內建兩套推論引擎，並依平台自動選擇。Apple Silicon 的 Mac 走 MLX，針對統一記憶體調校，在 M 系列晶片上通常反應更快。Windows 與 Linux 機器跑 llama.cpp，能把運算卸載到 Nvidia、AMD 或 Intel 顯示卡。模型勉強塞得下時，你可以調整放上 GPU 的層數，用速度換取餘裕。
離線文件問答
你可以把 PDF、Word 檔或一批筆記交給應用，直接針對內容發問。檢索在你的電腦上對照本機索引進行，文件從不上傳。對每天要讀合約或論文的人來說，這是隱私訴求最實際的版本。
本機語音輸入
Bionic 用裝置上的模型即時轉寫你講的話，音訊不會送往任何伺服器。對著文件或提示詞口述一段內容，離線也能運作，並支援多種語言。遇到口音較重的語音，準確度會落後付費的雲端轉寫，這就是不讓音訊外流的代價。
優缺點
優點
- 一次安裝就涵蓋模型搜尋、對話、文件問答與 API，不必跟 Python 或 CUDA 纏鬥。
- 下載前的硬體檢測擋掉最常見的新手錯誤，也就是挑了記憶體放不下的模型。
- 支援 MLX，讓它成為 Apple Silicon Mac 上執行開放式模型最快的方式之一。
- 本機伺服器不改程式碼就能取代 OpenAI 用戶端，支援工具呼叫與結構化輸出的模型也一併適用。
- 免費方案拿來做本機工作真的夠用，付費方案只在你要主機模型或更大量使用時才有差。
缺點
- 本機模型品質受硬體限制。16 GB 筆電只能跑中小型模型，最頂尖的開放式權重仍然碰不到。
- 應用不開放原始碼，需要稽核、修補或再散布推論堆疊的團隊，應該改看 llama.cpp 或 vLLM。
- 服務以單一使用者為前提。併發與批次處理比不上正式生產堆疊，兩三個用戶端同時打同一個埠就會看到排隊。
- 產品變動很快，經典版 LM Studio 與 Bionic 的分野，會讓部分教學與設定跟畫面上看到的不一致。
常見問題
不用。Free 方案免費，涵蓋本機模型下載、對話、代理與本機伺服器。LM Studio 價格從上一層才開始：Bionic+ 每月 20 美元，包含主機上的開放式模型與網頁搜尋；Pro 每月 100 美元，額度是五倍並可搶先使用新功能。
相關內容
探索與 LM Studio 相關的工具、技能與文章。
LM Studio 替代方案
Odyssey 3
Odyssey · 其他Odyssey-3 是 Odyssey 的基礎世界模型，能即時模擬物理，把一段文字提示變成可互動的環境，並套用到機器人、汽車與遊戲上。
JarvisCore
Prescott Data · 程式設計 · 生產力 · 其他JarvisCore 是開源的 Python 執行環境，讓 AI 代理在網格上以對等節點運作、從共用帳本認領任務，並透過零信任代理服務存取外部系統。
Clef
Cloudflare · 商業 · 其他Clef 是 Cloudflare 推出、可在 Workers AI 上執行的開源決策模型。它針對設定好的題目回傳校準後的機率而非生成文字，讓代理程式快速分類、分流並採取行動。