關於 PocketPal AI
What Is PocketPal AI
PocketPal AI 是一款在裝置本機運作的 AI 聊天應用，由 LLM Ventures 開發。它扮演本地 AI 助手的角色：不把訊息送到伺服器，而是把語言模型載入手機，直接在本機執行。這代表免註冊帳號、不必往返雲端，模型下載好之後也不需要連網。專案採 MIT 授權，程式碼放在 GitHub，開發者是 Asghar Ghorbani。
這個產品早已超出單純的聊天視窗。它支援裝置端神經語音合成、用來打造專屬助手的 Pals 系統（可各自指定模型與系統提示詞），以及能測量每秒詞元數與記憶體用量的效能基準工具。模型可直接從 Hugging Face 取得，包含需要授權的版本，只要貼上存取權杖即可。官網提到 iOS 與 Android 合計下載超過 310 萬次，GitHub 專案也累積逾 8,500 顆星。
主要限制來自手機本身。小型的開源模型能塞進手機願意讓出的記憶體，但回答品質不如雲端旗艦模型，下載檔較大時也會迅速吃掉儲存空間。第一次對話前還得先下載模型，容量大約在 1 到 5 GB。
Getting Started
- 從 App Store 或 Google Play 安裝 PocketPal AI。
- 開啟選單進入 Models，挑一個符合手機記憶體的模型下載。
- 若要取用需授權的模型，在 Settings 填入 Hugging Face 存取權杖。
- 在模型上點 Load，再打開 Chat 開始輸入。
- 長按訊息即可編輯或重新生成，常用任務可存成一個 Pal。
產品資訊
快速了解 PocketPal AI 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 重視隱私的人：想跟 AI 對話又不想讓訊息碰到伺服器，也不必註冊帳號
- 經常在外的人：常搭飛機、登山或通勤，下載一次模型後，在沒有訊號的地方也需要助手
- 學生與研究者：討論敏感作業或筆記時，不想在別人的雲端留下紀錄
- 開發者與玩家：想試跑量化 GGUF 模型、觀察每秒詞元數來比較硬體效能
- 預算有限的人：想要堪用的聊天功能又不想付訂閱費，因為應用本體免費且採 MIT 授權
任務
- 離線聊天：不連網也能用本機模型做問答、摘要與草稿
- 語音回覆：用裝置端神經語音合成，把文字回答轉成朗讀
- 自訂助手：建立 Assistant 與 Roleplay 兩類 Pal，各自設定模型、提示詞與個性
- 模型管理：在 Hugging Face 搜尋、收藏與下載 GGUF 模型，含需授權版本
- 效能測試：測量每秒詞元數與記憶體，找出哪個模型在你的手機上跑得最好
- 工具呼叫：讓具備能力的 Pal 呼叫計算機、時鐘與 HTML 呈現等內建工具
情境
- 在飛機或山徑上：模型沒有訊號也能跑，長途旅程照樣有助手可用
- 檢視敏感文件：草稿與提問留在裝置裡，伺服器不會留下副本
- 拿到新手機：跑一次效能測試、分享結果，把模型送上 AI Phone Leaderboard
- 多語工作：用你熟悉的語言，搭配為此下載的模型對話
- 更換裝置：從 iOS 換到 Android，本機聊天設定原封不動
主要功能
裝置端 GGUF 聊天
應用的核心是裝置端推論。PocketPal AI 透過 llama.cpp 執行量化 GGUF 模型，因此 Gemma、Qwen、Phi、Llama 與上千款模型都能完全離線對話。對話內容不會上傳，也不會存到外部伺服器。生成期間應用會讓螢幕保持亮起，長篇回答不會被自動鎖定打斷。
裝置端神經語音
回答不必只是文字。PocketPal 內建在手機上執行的神經語音合成，採用 Kokoro 等引擎並透過 ONNX Runtime 運作。聲音在本機生成、不呼叫雲端，隱私承諾與聊天本身一致。這對免持操作、無障礙使用，以及任何需要邊走邊聽的情境都很關鍵。
Pals 與 PalsHub
Pals 是可自訂的助手，能各自指定預設模型、系統提示詞與個性。Assistant 型 Pal 針對特定任務，Roleplay 型再補上角色、地點與其他情境設定，適合有腳本的對話。PalsHub 是應用內的市集，可瀏覽並安裝社群 Pal，也包含以 App 內購買取得的進階版本。一次下載就能涵蓋許多不同的工作流程。
Hugging Face 模型庫
模型的選擇決定一切，因此應用直接串接 Hugging Face。你可以搜尋 GGUF 模型、依量化格式篩選，立即下載或先收藏。填入個人存取權杖後，需授權的模型也會開放。應用也允許從本機儲存空間加入模型檔，對已經把權重放在裝置上的人很方便。
內建效能基準
效能頁把猜測換成數字。它測量你載入模型的每秒詞元數與記憶體用量，讓你在真正決定前，先用實際硬體比較幾個候選模型。結果可分享到 AI Phone Leaderboard，與其他裝置並列，也幫助下一位買家挑出手機撐得住的模型大小。
工具呼叫與代理人迴圈
較新的版本讓具備能力的 Pal 在對話中呼叫工具。Talent 是模型可叫用的小型引擎，應用註冊了計算機、日期時間查詢與豐富 HTML 呈現等工具。代理人迴圈會串流詞元、偵測工具呼叫、執行後把結果帶回下一輪。這是從單純聊天邁向「在裝置上真的把事情做完」的第一步。
優缺點
優點
- 完全離線執行語言模型，沒有訊號、沒有帳號也能聊
- 免費且開源，採 MIT 授權，聊天功能不需訂閱解鎖
- 隱私就是設計本身：訊息與回覆都留在裝置上
- 本機神經語音提供朗讀回覆，不呼叫雲端
- 效能工具會在你自己的手機上給出明確的每秒詞元數
缺點
- 裝置端小模型的回答不如雲端旗艦模型，遇到艱難推理可能讓人失望
- 首次對話前必須先下載模型，通常是 1 到 5 GB
- 大型模型需要記憶體充足的手機，舊機或入門機種會吃力
- 最好的模型在長時間使用下耗電並讓手機發熱
- 沒有公開 API，因此這款應用適合個人使用，不適合再往上開發
常見問題
PocketPal AI 是一款免費、開源的應用，直接在你的手機上執行語言模型。它支援 GGUF 模型，你下載、載入後就能在 iPhone 或 Android 上離線對話，不必註冊也不碰雲端。它還加入裝置端語音、自訂 Pals 與效能基準工具。
相關內容
探索與 PocketPal AI 相關的工具、技能與文章。
PocketPal AI 替代方案
Knocket
Knocket (Tencent RTC team) · 生產力 · 商業 · 聊天機器人Knocket 是免費的線上客服與聯絡頁面工具，訪客可從網站、App 或一條分享連結傳訊息，你在 Telegram 或單一收件匣就能回覆。
shippedit.me
Krawlup · 行銷 · 商業shippedit.me 現在會轉向 Krawlup，這是一個每週稽核 SEO、AEO 與載入速度的網站平台，並透過 MCP 把修正交給 AI 編碼代理執行。
Ayven
Alknoma · 生產力 · 商業Ayven 是 Alknoma 推出的 AI 控制中心，能把一句話描述的目標變成有日期的計畫，把任務分派給團隊成員與 AI 代理，只在決定權屬於你時請你核准。