Locally AI
Locally AI · 其他
Locally AI 是一款離線 AI 助理，能在你的 iPhone、iPad 或 Mac 上完整執行開放式 AI 模型。它同時是 Mac 與行動裝置的本機 AI 應用程式，不需雲端、不需登入，也不收集資料，所以你的對話會留在手上這台裝置裡。模型下載一次，之後隨時都能跟它對話，就算沒有訊號也行。
關於 Locally AI
什麼是 Locally AI
Locally AI 是一款為 Apple 硬體打造的裝置端 AI 助理。它不把你的提示送到伺服器，而是把開放式語言與視覺模型直接載入裝置並在當地執行。結果就是一款能在飛航模式運作的對話應用程式，而且每一段對話都留在你的機器上。
這種本機優先的做法，解決的最大問題就是私密 AI 對話。當沒有任何東西離開裝置，就沒有東西能被外洩、販售或依法調閱。這也代表不需訂閱、不需帳號，因為應用程式運作時根本不需要後端。
代價則落在硬體上。Locally AI 依賴 Apple Silicon 與 MLX 框架，所以要比較新的 iPhone、iPad 或 Mac。在較舊的裝置上，模型載入緩慢，甚至無法執行。每個模型也都得你自己下載。較大的模型會佔用可觀的儲存空間。不算理想，但這就是目前本機 AI 的現實。
開始使用
- 在 iPhone、iPad 或 Mac 上從 App Store 安裝 Locally AI。
- 開啟模型瀏覽器，挑一個適合你裝置的模型；不確定的話，先從小一點的開始。
- 用 Wi-Fi 下載模型，等它完成後再開始對話。
- 用輸入或語音模式展開對話，想要不同語氣就調整系統提示。
- 也可以把它接上 Siri、捷徑或控制中心，一個點擊就能取用。
產品資訊
快速了解 Locally AI 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 重視隱私的人：對話永遠不離開裝置，所以沒有東西能送給雲端供應商，只要你選的模型是硬體撐得住的。
- 經常旅行的人：模型下載好之後，助理在班機上與訊號死角都能運作。
- 學生與研究者：不用訂閱，就能在筆電或 iPad 上整理筆記或草擬文字。
- Apple 愛用者：它依賴 Apple Silicon、MLX 與 Siri，如果你本來就生活在這套生態裡，契合度最高。
任務
- 草擬與改寫文字：不想把信件、訊息或短文件貼進網頁工具時，這功能很實用。
- 離線提問：查資料式的問答與腦力激盪在任何地方都能進行，完全不需要訊號。
- 語音對話：免手持對話在裝置上執行，煮飯、走路或開車時都方便。
- 圖片提問：視覺模型讓你能直接針對拍下的照片或螢幕截圖提問。
情境
- 處理敏感資料：合約、健康筆記或客戶細節都留在本機，不必穿越網路。你可以在本機執行 AI 模型，完全跳過上傳這一步。
- 旅行與通勤：下載好的模型在飛機上與地下照樣運作。
- 網路不穩的家：如果 Wi-Fi 經常斷線，離線助理還是能幫上忙。
- Siri 式的快速查詢：Siri 與捷徑的串接讓你不用開啟應用程式就能丟出問題。
主要功能
完全離線運作
Locally AI 的重點就是不需要網路也能跑。模型一旦放進裝置，每個提示與回覆都在本機處理。過程中沒有伺服器參與。這讓應用程式在雲端助理失效的地方依然可靠，也省去了伺服器來回造成的常見延遲。
裝置端模型庫
應用程式支援多款開放式模型，涵蓋 Llama、Gemma、SmolLM、DeepSeek、Qwen、Granite、Cogito 與 LFM 等系列。要裝哪一款由你決定。較小的模型跑得快。較大的模型更聰明，但也更笨重。這是真正的任你挑選，而不是固定一款模型。
本機語音模式
語音模式同樣完全在裝置上執行，所以你能進行口說對話，音訊不會離開手機或 Mac。它即時反應，也省去雲端語音助理上傳與下載的延遲。
視覺模型支援
Locally AI 除了文字，也處理影像任務。具備視覺能力的模型讓你直接針對照片或截圖提問，分析過程和其他功能一樣都在裝置上完成。
Siri 與捷徑整合
你可以透過 Siri 說「Hey, Locally AI」啟動助理，或把它接進捷徑應用程式打造自動化流程。控制中心、鎖定畫面與動作按鈕也提供一鍵取用，不必到處找應用程式圖示。
自訂系統提示
可自訂的系統提示讓你決定助理的行為。想要簡短回答？說一聲就好。想要更溫暖的語氣或特定角色？一樣可以。同一款模型會因任務不同而感覺不同。
Apple Silicon 與 MLX 效能
應用程式圍繞 Apple Silicon 與 MLX（Apple 的機器學習框架）打造。這樣的組合運用現代晶片的統一記憶體，模型載入快速，回覆的耗電也遠低於你預期在本機手持裝置上執行大型語言模型的水準。
優缺點
優點
- 完整隱私：提示、回覆與語音永遠不離開裝置。
- 不需帳號也不需訂閱，沒有東西要註冊或取消。
- 模型下載好之後，在飛航模式也能離線運作。
- 串接 Siri、捷徑與控制中心，取用快速。
- 支援多款開放式模型，包括具備視覺能力的款式。
缺點
- 需要較新的 Apple Silicon，較舊的 iPhone、iPad 與 Mac 跑起來很吃力，甚至無法運作。
- 模型得自己下載，較大的款式會佔用大量儲存空間。
- 沒有 Android、Windows 或網頁版本，非 Apple 使用者被排除在外。
- 在艱難的推理任務上，本機模型通常落後於最大的雲端模型。
常見問題
它是一款 iPhone、iPad 與 Mac 的 AI 助理應用程式，直接在裝置上執行開放式語言與視覺模型。那這帶來什麼改變？沒有東西會被送到雲端伺服器，也就是說它能離線運作，並讓你的對話保持私密。
相關內容
探索與 Locally AI 相關的工具、技能與文章。
Locally AI 替代方案
BinkBink
BinkBink · 其他BinkBink 是一個免費的線上遊戲平台與 AI 遊戲製作工具，讓任何人都能把一段簡短的文字描述變成可玩的瀏覽器遊戲。你可以直接跳進數百款社群自製的遊戲。或者描述自己的想法，幾秒內就能玩，再分享給朋友。想建立自己的遊戲嗎？你不需要寫程式。不用設定引擎、不用下載、不必費心。
Audiogen
Audiogen Inc. · 其他Audiogen 是一款由 Audiogen Inc. 打造的 AI 音樂生成器。這支小型研究團隊花了約 2.5 年訓練自家生成式音樂模型，並圍繞它設計網頁介面。這款 AI 音樂工具捨棄單純的文字框，把時間軸變成對新手友善的生成式音訊工作站（Generative Audio Workstation，簡稱 GAW），其中的補繪、延伸、混音與音軌編輯，操作起來更像在畫布上彩繪。產品仍在 beta 階段，因此取用管道是候補名單或邀請碼。付費方案尚未公布。
Aiml API
AIMLAPI OÜ · 其他Aiml API 是一套統一的 AI 模型 API，把 OpenAI、Google、Anthropic 等超過 1000 個模型放在同一個端點與同一張帳單之後。你只要依照單一相容 OpenAI 的結構撰寫程式碼，接著改一個模型字串，就能在聊天、圖像、影片與音訊模型之間切換。它適合想取得多模型存取、又不想管理十幾個供應商帳號的開發者與小型團隊，也省去了測試多家廠商時常見的帳務麻煩。一組金鑰就能涵蓋全部。