PocketPal AI
LLM Ventures · ビジネス · チャットボット
PocketPal AIは、iPhoneとAndroidでGGUFモデルをオフライン実行する無料・オープンソースの端末上のAIチャットだ。オフラインLLMアプリとしてスマホでLLMを動かす、プライベートAIチャットで、会話は端末内にとどまる。
PocketPal AI について
What Is PocketPal AI
PocketPal AIは、端末そのもので動くAIチャットアプリで、開発元はLLM Ventures。ローカルAIアシスタントとして、メッセージをサーバーへ送る代わりに、言語モデルをスマホに読み込み、その場で実行する。つまりアカウント登録は不要、クラウドとの往復もなく、モデルを一度ダウンロードすればネット接続も要らない。プロジェクトはMITライセンスで、コードはGitHubに公開され、開発者はAsghar Ghorbaniだ。
この製品は単なるチャット画面をはるかに超えている。端末内のニューラル音声合成、モデルとシステムプロンプトを個別に設定できるPalsの仕組み、毎秒トークン数とメモリ使用量を測るベンチマーク機能を備える。モデルはHugging Faceから直接取得でき、アクセストークンを貼れば制限付きのモデルにも届く。公式サイトはiOSとAndroidを合わせて310万ダウンロード超を挙げ、GitHubリポジトリは8,500スターを超えている。
最大の制約はスマホ自体にある。小さなオープンモデルなら端末が割けるメモリに収まるが、回答はクラウドの最先端モデルに及ばず、大きなファイルはストレージをすぐ食う。最初のチャットの前にも、おおむね1～5GBのモデルをダウンロードする必要がある。
Getting Started
- App StoreまたはGoogle PlayからPocketPal AIをインストールする。
- メニューからModelsを開き、スマホのメモリに合うモデルをダウンロードする。
- 制限付きモデルを使うなら、SettingsでHugging Faceのアクセストークンを入力する。
- モデルのLoadをタップし、Chatを開いて入力する。
- メッセージを長押しすると編集や再生成ができ、繰り返す作業はPalとして保存できる。
AIツール情報
PocketPal AIの料金、対応プラットフォーム、性能を簡単に確認できます。
こんな人におすすめ
このツールが最も力を発揮するユーザー、タスク、シーン。
ユーザー
- プライバシーを重んじる人：メッセージをサーバーに触れさせず、アカウントも作らずにAIと話したい人
- 移動の多い人：飛行機や山道、通勤が多く、モデルを一度落とした後は電波のない場所でもアシスタントが欲しい人
- 学生と研究者：繊細な課題やメモを、他人のクラウドに履歴を残さず相談したい人
- 開発者と実験好き：量子化したGGUFモデルを試し、毎秒トークン数を見てハードを比べたい人
- 出費を抑えたい人：サブスクなしで使えるチャットを探す人。本体は無料でMITライセンスだ
タスク
- オフラインチャット：接続なしでローカルモデルに質問、要約、下書きをさせる
- 音声の読み上げ：書き文字の回答を、端末内のニューラル音声合成で読み上げに変える
- 独自アシスタント：AssistantとRoleplayの2種のPalを、モデル・プロンプト・性格つきで作る
- モデル管理：Hugging FaceでGGUFモデルを検索、保存、ダウンロードする。制限付きも含む
- ベンチマーク：毎秒トークン数とメモリを測り、自分のスマホで最も快適なモデルを見極める
- ツール呼び出し：対応するPalに電卓、時計、リッチHTML表示などの内蔵ツールを使わせる
シーン
- 機内や山道で：電波がなくてもモデルは動くので、長い移動でもアシスタントが使える
- 機密文書の確認：下書きも質問も端末内にとどまり、サーバーにコピーを残さない
- 新しいスマホの設定：ベンチマークを走らせて結果を共有し、AI Phone Leaderboardでモデルを見る
- 多言語での作業：そのために落としたモデルで、自分の言語のまま会話する
- 機種変更：iOSからAndroidへ移っても、ローカルのチャット設定はそのまま使える
主な機能
端末内のGGUFチャット
アプリの中核は端末内推論だ。PocketPal AIは量子化したGGUFモデルをllama.cppで動かすため、Gemma、Qwen、Phi、Llamaなど数千のモデルが完全オフラインで会話できる。会話の内容はアップロードもされず、外部サーバーにも保存されない。生成中は画面の消灯を防ぐので、長い回答が自動ロックで途切れない。
端末内のニューラル音声
回答は黙ったままである必要はない。PocketPalはスマホ上で動くニューラル音声合成を備え、KokoroなどのエンジンをONNX Runtime経由で使う。声はクラウドを呼ばずにローカルで生成され、チャットと同じプライバシーの約束を守る。ハンズフリー操作やアクセシビリティ、移動中に耳で聞く用途で効いてくる。
PalsとPalsHub
Palsは、既定のモデル、システムプロンプト、性格を自分で設定できるアシスタントだ。Assistant型は特定の作業に向き、Roleplay型は役割や場所などの文脈を加えて台本的な会話に向く。PalsHubはアプリ内のマーケットで、コミュニティのPalを探して導入でき、アプリ内課金のプレミアムも含む。ダウンロード一つで多くの作業をまかなえる。
Hugging Faceモデルライブラリ
モデル選びがすべてを決めるため、アプリはHugging Faceに直接つながる。GGUFモデルを検索し、量子化で絞り込み、すぐ落とすか後で使うために保存する。個人のアクセストークンをSettingsに入れれば、制限付きモデルも開く。ローカル保存からモデルファイルを追加でき、すでに重みを端末に置いている人にも都合がいい。
内蔵ベンチマーク
ベンチマーク画面は推測を数字に変える。読み込んだモデルの毎秒トークン数とメモリ使用量を測るので、決める前に実際のハードで候補を比べられる。結果はAI Phone Leaderboardへ共有でき、他端末と並べて次の購入者がスマホに収まるモデルサイズを選ぶ助けになる。
ツール呼び出しとエージェントループ
新しい版では、対応するPalが会話の途中でツールを呼べる。Talentはモデルが呼び出せる小さなエンジンで、アプリは電卓、日時の取得、リッチHTML表示などを登録する。エージェントループはトークンを流し、ツール呼び出しを検知して実行し、結果を次のターンへ戻す。単なるチャットから、端末上で実際に仕事を片づけるアシスタントへの第一歩だ。
メリットとデメリット
メリット
- 言語モデルを完全オフラインで動かすので、電波もアカウントもなく動く
- MITライセンスの無料オープンソースで、チャットにサブスクは要らない
- プライバシーが設計そのもの。メッセージも回答も端末内にとどまる
- 端末内のニューラル音声が、クラウドを呼ばずに読み上げを加える
- ベンチマークが自分のスマホでの毎秒トークン数を具体的に示す
デメリット
- 端末内の小型モデルはクラウドの最先端モデルより回答が弱く、難しい推論では物足りない
- 最初のチャットの前にモデルを落とす必要があり、多くは1〜5GBにのぼる
- 大きなモデルはRAMの多いスマホを要求し、古い端末や低価格帯では厳しい
- 最良のモデルは長時間の利用でバッテリーを削り、端末が熱くなる
- 公開APIがないため、個人利用向けで、上に何かを積む用途には向かない
よくある質問
PocketPal AIは、言語モデルをスマホ上で直接動かす無料のオープンソースアプリだ。GGUFモデルに対応し、一つ落として読み込めば、iPhoneでもAndroidでもアカウントなし、クラウドなしでオフライン会話ができる。端末内音声、独自のPals、ベンチマークも備える。
関連コンテンツ
PocketPal AIに関連するツール、スキル、記事を探す。
PocketPal AIの代替ツール
Knocket
Knocket (Tencent RTC team) · 生産性向上 · ビジネス · チャットボットKnocketは無料のライブチャット兼コンタクトページだ。訪問者はウェブサイト、アプリ、共有リンクから書き込み、こちらはTelegramか一つの受信トレイから返信する。
shippedit.me
Krawlup · マーケティング · ビジネスshippedit.me は現在 Krawlup へ転送される。SEO、AEO、表示速度を毎週監査し、修正内容を MCP 経由で AI コーディングエージェントに渡すウェブプラットフォームだ。
Ayven
Alknoma · 生産性向上 · ビジネスAyvenはAlknomaのAIコントロールセンターだ。普通の言葉で伝えた目標を日付入りの計画に変え、チームのメンバーとAIエージェントに仕事を割り振り、判断が自分の領分であるときだけ承認を求める。