Jan AI
Menlo Research · 其他
Jan AI 是一款免費、開源的桌面應用程式，可以直接在你自己的電腦上執行大型語言模型。這是一款本機 LLM 應用程式，你下載一次之後就能不需伺服器地使用。你挑一個模型，按下 Use，然後開始對話。沒有任何東西離開這台機器。它適合重視隱私的使用者、想要本機 API 的開發者，以及任何不想為了基本 AI 協助而按 token 付費的人。因為它離線執行，Jan AI 同時也是處理敏感工作時的私密 AI 對話工具。不需要帳號。月底也不會收到帳單。
關於 Jan AI
什麼是 Jan AI
Jan AI 是開源的 ChatGPT 替代方案，能在你的機器上 100% 離線執行。背後的團隊 Menlo Research 將它做成 Windows、macOS 與 Linux 的桌面應用程式，你也可以透過 Docker 部署。Jan AI 不會把你的提示送到雲端服務，而是把模型載入你的硬體，並從那裡回答。除非你刻意連接外部 API，否則你的對話永遠不會離開你的電腦。
它最解決的，是便利與隱私之間的取捨。多數聊天機器人給你乾淨的介面，但你得交出資料。像 llama.cpp 這種原始工具讓你保有控制權，但每次想換模型或改設定，就得跟命令列纏鬥。Jan AI 正好在中間：給你熟悉的對話視窗、用來下載的模型中心，以及本機 API 伺服器，於是沒有技術背景的使用者幾分鐘就能上手，開發者也有真正能發展的基礎。這種平衡很少見。
主要限制是你的硬體。小模型在現代筆電上跑得很順。任何大型模型都需要大量記憶體或獨立 GPU，而且就算有，品質也不一定比得上頂尖的雲端模型，因為家用機器塞得下的開放權重，通常比最大的託管系統落後一兩步。你還得在第一次對話前下載模型，透過你的網路連線可能得搬好幾 GB。Jan AI 沒有付費方案，所以背後沒有支援合約，也沒有代管服務。
開始使用
- 前往 jan.ai，下載適合你系統的安裝檔（Windows、macOS 或 Linux），然後執行它。
- 開啟應用程式，前往模型中心，挑一個像 Llama、Mistral 或 Gemma 的模型，按下下載。
- 下載完成後，按下 Use，把該模型設為你的使用中助理。
- 在對話視窗輸入第一個提示並送出。從這裡開始一切都在本機執行。
- 選用：開啟設定，啟動本機 API 伺服器，並把任何相容 OpenAI 的應用程式指向
http://127.0.0.1:1337。
產品資訊
快速了解 Jan AI 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 重視隱私的使用者：把每一則提示留在自己的磁碟上，不需帳號，也不需雲端紀錄。
- 開發者：使用內建、相容 OpenAI 的 API，把本機模型接進你自己的應用程式。
- 學生與愛好者：只要你的機器記憶體夠，就能探索 Llama、Mistral 等模型，不必付 API 額度費。
任務
- 敏感撰稿：處理合約、筆記或內部文件，不必上傳到任何地方。
- 離線腦力激盪：在飛機上、咖啡廳裡，或任何網路斷掉的地方繼續用 AI。
- 本機原型開發：先用免費模型測試聊天機器人的構想，再決定是否投入付費 API。
情境
- Wi-Fi 不穩的長途旅行：這款離線聊天機器人會繼續從你的筆電回答。
- 處理機密資料的小團隊：全部在內部硬體上執行，不對外呼叫。
- 了解本機模型的行為：在單一介面切換不同模型，並排比較答案。
主要功能
完全離線對話
Jan AI 在你的硬體上執行整段對話，因此應用程式完全不需要網路連線就能運作。你的訊息與模型的回覆會直接存到本機儲存空間，而不是送到伺服器。沒有任何東西離開這台機器。這就是人們選擇它、而不選託管聊天機器人的核心原因。若你之後連接遠端 API，那是你的選擇，不是預設行為。就這麼簡單。
相容 OpenAI 的本機 API 伺服器
應用程式內建本機 API 伺服器，採用與 OpenAI 端點相同的格式。從設定啟動後，它會在 http://127.0.0.1:1337 上監聽。任何已經與 OpenAI 溝通的工具或腳本，只要改一行就能指向這個位址。對開發者來說，這讓一次免費下載變成可直接用於測試與小型部署的後端。
模型中心與自訂模型
內建的模型中心讓你瀏覽並下載熱門的開放模型，你也可以貼上 Hugging Face 連結來取得特定模型。Jan AI 支援 GGUF 格式，並可在 llama.cpp 等引擎上執行，TensorRT-LLM 則是另一個選項。對話中途切換模型很快，所以你能針對同一項任務，比較小而快的模型與更大的模型。
跨平台桌面應用程式
一款應用程式涵蓋 Windows、macOS 與 Linux，另外還有 Docker 這條路供伺服器架構使用。Jan.ai 桌機版的介面在各系統上都一致，所以你在筆電上學到的，換到桌機不用重新學。對於使用混合硬體的團隊，這種一致性省下了那種往往吃掉整個下午、還讓所有人一肚子火的設定調整。
擴充功能與助理
Jan AI 以可擴充的框架打造，它自身的功能都建立在那層之上。開發者可以加入外掛，並用自訂指令打造專屬助理。你也可以附加 PDF 或文字文件等檔案，讓模型讀取。這正是它不至於只是一只對話框的關鍵。
可以帶著走的資料
對話以本機檔案形式儲存，意思是你可以隨時刪除、匯出或搬移。你不會被綁在一個匯出按鈕神秘地不存在的供應商身上。如果你決定離開，你的紀錄會跟著你走。不用匯出精靈。不用等。
優缺點
優點
- 完全免費且開源，沒有訂閱，也沒有按 token 計費。
- 離線運作，所以當你的連線掛掉時它還在跑。
- 本機 API 伺服器相容 OpenAI，很容易接進現有專案。
- 一次下載就能在 Windows、macOS 與 Linux 上執行。
缺點
- 模型品質取決於你的硬體。大型模型需要大量記憶體或強力 GPU。
- 對話前必須先下載模型，大型模型既耗時間也占磁碟空間。
- 沒有官方的代管支援層級，所以排錯得靠社群與文件。
常見問題
是。Jan AI 免費且開源，沒有付費方案，也不收 token 費用。你只在自家硬體與電費上花錢。如果你選擇連接像 OpenAI 或 Anthropic 這類付費 API，那筆費用是另外的，而且是可選的。
相關內容
探索與 Jan AI 相關的工具、技能與文章。
Jan AI 替代方案
BinkBink
BinkBink · 其他BinkBink 是一個免費的線上遊戲平台與 AI 遊戲製作工具，讓任何人都能把一段簡短的文字描述變成可玩的瀏覽器遊戲。你可以直接跳進數百款社群自製的遊戲。或者描述自己的想法，幾秒內就能玩，再分享給朋友。想建立自己的遊戲嗎？你不需要寫程式。不用設定引擎、不用下載、不必費心。
Audiogen
Audiogen Inc. · 其他Audiogen 是一款由 Audiogen Inc. 打造的 AI 音樂生成器。這支小型研究團隊花了約 2.5 年訓練自家生成式音樂模型，並圍繞它設計網頁介面。這款 AI 音樂工具捨棄單純的文字框，把時間軸變成對新手友善的生成式音訊工作站（Generative Audio Workstation，簡稱 GAW），其中的補繪、延伸、混音與音軌編輯，操作起來更像在畫布上彩繪。產品仍在 beta 階段，因此取用管道是候補名單或邀請碼。付費方案尚未公布。
Aiml API
AIMLAPI OÜ · 其他Aiml API 是一套統一的 AI 模型 API，把 OpenAI、Google、Anthropic 等超過 1000 個模型放在同一個端點與同一張帳單之後。你只要依照單一相容 OpenAI 的結構撰寫程式碼，接著改一個模型字串，就能在聊天、圖像、影片與音訊模型之間切換。它適合想取得多模型存取、又不想管理十幾個供應商帳號的開發者與小型團隊，也省去了測試多家廠商時常見的帳務麻煩。一組金鑰就能涵蓋全部。