Nexa
Nexa AI (acquired by Qualcomm) · コーディング · マーケティング
Nexaは、LLMやVLM、音声モデルをQualcomm製チップのNPU・GPU・CPUで直接動かすオープンソースのオンデバイスAI SDKだ。クラウドもトークン課金も要らない。
Nexa について
What Is Nexa
Nexaは、スタンフォード大学の出身者2人が立ち上げたNexa AIのオンデバイスAI製品群だ。まず小型言語モデルのOctopusシリーズを作り、その展開作業をNexa SDKとしてまとめた。クラウドGPUを借りずに、オープンモデルをスマホやノートPC、エッジボードへ載せるためのツールキットである。
考え方はシンプルで、エッジAIツールキットとして「まずNPU、次にGPU、最後にCPU」という順序を貫く。この順序は実機で効いてくる。QualcommがGalaxy S25 Ultraで公開した計測では、小型のGraniteモデルがHexagon NPUで毎秒92トークン、CPUでは毎秒40トークンだった。NPUで動かしたときのエネルギー効率は最大9倍良い。
Qualcommは2026年にNexa AIを買収した。旧nexa.aiはQualcomm AI Hubへ転送され、NexaAI/nexa-sdkリポジトリもqualcomm/GenieXへ転送される。既存のNexa SDKプロジェクトはGenieXに引き継がれる。GenieXはQualcomm GENIEのコミュニティ版で、BSD-3-Clauseライセンスで公開され、2026年7月に開発者プレビューとして出た。
制約はハードウェアにある。GenieXが動くのはSnapdragonのみで、Windows on ARMのノートPC、Snapdragon搭載Android端末、Linux ARM64のボードが対象だ。IntelのノートPC、Mac、iPhoneでは動かない。
はじめ方
- Windows ARM64ではGitHubのリリースページからCLIを入れ、Linux ARM64では1行のインストールスクリプトを実行する。
- モデルを取得する。Hugging Face、ModelScope、Docker HubのGGUFファイルか、Qualcomm AI Hubのビルド済みバンドルを選ぶ。
- geniex inferにモデル名を付けて対話を始めるか、geniex serveでポート18181にOpenAI互換のエンドポイントを立てる。
- AndroidではGradleのビルドにcom.qualcomm.qti:geniex-androidを追加し、qualcomm/ai-hub-appsのサンプルチャットアプリを土台にする。
AIツール情報
Nexaの料金、対応プラットフォーム、性能を簡単に確認できます。
こんな人におすすめ
このツールが最も力を発揮するユーザー、タスク、シーン。
ユーザー
- Android開発者：KotlinとJavaのバインディングがあるので、Cを書かずにモデルをアプリへ組み込める。実用的な速度を出すならSnapdragon 8シリーズの端末が欲しい。
- Windows on ARMの利用者：Snapdragon XのノートPCが、チャットと画像モデル向けのローカル推論マシンになる。クラウドアカウントは不要だ。
- エッジ・IoTのエンジニア：Linux ARM64の経路はDragonwingボードを対象にしており、キオスクやカメラ、ロボットがオフラインでモデルを動かせる。
タスク
- オフラインのチャットアシスタントを出す：コマンド1つで重みを取得し、ターミナルで対話が始まる。UIを作る前にモデルの挙動を確かめる手段として実用的だ。
- スマホで画像モデルを動かす：VLMは画像入力に対応するため、写真の仕分けや画面内容の説明でファイルをサーバーへ送る必要がない。
- クラウドAPIの呼び出しをローカルのエンドポイントに置き換える：OpenAI互換サーバーがあるので、ベースURLを変えるだけで既存のクライアントコードがそのまま動く。
シーン
- 電波が安定しない現場作業：点検担当や配送ドライバーは端末そのものから応答を得るので、圏外でも作業が止まらない。
- 端末の外に出せないデータ：診療メモや法務ドラフト、社内文書はローカル保存のまま扱える。推論がマシンの外へ出ないためだ。
- 量産前のQualcommハードでの試作：デスクトップGPUの結果から推測するのではなく、実際のチップでモデルを測れる。
主な機能
NPUを優先するローカル推論
モデルとチップが対応していれば、GenieXは処理をHexagon NPUへ回し、対応しなければAdreno GPUやCPUへ落とす。差は理論値ではない。Qualcomm NPUとCPUを比べた公表値では、小型モデルでトークン生成速度が2倍を超え、トークンあたりの消費電力も大きく下がる。サーバーのない現場でLLMをローカルで実行したいなら、この割り振りが製品の中心になる。
1つのコマンドの下に2つの実行エンジン
SDKにはGGUFファイル向けのllama.cppと、チップセット別のビルド済みバンドル向けのQualcomm AI Engine Directが入っている。llama.cppの経路はNPU・GPU・CPUに処理を分散するので試行錯誤に向く。AI Engine Directは対応チップで速いが、そのシリコン専用に組んだバンドルへモデルが縛られる。
4つの取得元からモデルを引く
CLIはHugging Face、ModelScope、Docker Hub、Qualcomm AI Hubに対応し、ダウンロードして変換して量子化するいつもの手間を省ける。GGUFファイルでNPU経路を使いたいなら、精度はQ4_0を選ぶ。他の精度は遅い演算ユニットへ回される。
ローカルホストで動くOpenAI互換サーバー
ローカルAI実行環境は、すでに使っているプロトコルを話すほうが導入しやすい。geniex serveは127.0.0.1:18181にRESTエンドポイントを立て、OpenAIのchat completionsと同じ形式で応答する。ベースURLを差し替えられるクライアントライブラリなら、そのまま動く。
transformersに似せたPython API
Pythonパッケージは、Hugging Face利用者が見慣れたfrom_pretrainedとgenerateの呼び出しを再現し、ストリーミング出力にも対応する。Pythonでモデルを読み込んだ経験があれば数分で使い始められ、同じスクリプトがノートPCでもエッジボードでも動く。
Android向けKotlin・Javaバインディング
Android向けの成果物はCコアをアプリ開発者向けに包んだもので、QualcommはGGUFとAI Hubバンドルの両方を選べるサンプルチャットアプリも公開している。モデルのダウンロード、保存、画像モデルへの画像入力といった面倒な部分はこのサンプルで押さえられる。
Linux端末向けDockerイメージ
Linux ARM64では、コンテナにCLIと実行ライブラリが入っているため、端末側はDockerさえあればモデルを動かせる。コンパイラやドライバを実機へ入れるのが面倒な産業用ハードでは最短の道だ。
メリットとデメリット
メリット
- BSD-3-Clauseのオープンソースで無料。商用製品に組み込んでもライセンス課金もトークン課金も発生しない。
- インストールとモデル取得が数分で終わる。組み込みハードでドライバを探して1日潰す作業に比べれば大きな差だ。
- 同じ実行環境がWindows、Android、Linuxをカバーするので、1つのコードがノートPCからスマホ、ボードへと渡り歩ける。
- OpenAI互換サーバーがあるため、既存アプリのコードはベースURLの変更だけで動くことが多い。
デメリット
- Snapdragon専用。AppleシリコンもIntel・AMDのx86もiOSも対象外で、一般的なノートPCの大半とiPhoneはすべて外れる。
- ビルド済みバンドルは特定チップに紐づくため、別のSnapdragonグレードへ移すにはモデルを探し直すか自前でビルドする必要がある。
- 現状は開発者プレビューで、インターフェースやパッケージ構成が版ごとに変わりうる。
- ドキュメントはCLIとPythonの例が中心で、AndroidやDockerを使う人は自分で埋める穴が多い。
よくある質問
NexaはAIモデルをクラウドではなく端末上で直接動かすために使う。オフラインのチャットアシスタント、端末内での画像理解、音声の文字起こし、そしてデータをサーバーへ送ると遅すぎる、高すぎる、あるいは許されない機能が主な用途だ。
関連コンテンツ
Nexaに関連するツール、スキル、記事を探す。
Nexaの代替ツール
Base Code
Base44 (Wix) · コーディング · 生産性向上Base CodeはBase44の共有クラウド開発環境だ。既存のGitHubリポジトリに対する変更をチャットで伝え、プレビューで確認し、プルリクエストとして返せる。
Google EmbeddingGemma 2
Google DeepMind · ライティング · 画像 · コーディングGoogle EmbeddingGemma 2 は 7 億 4000 万パラメータのオープンなモデルで、テキスト、コード、画像、音声、動画フレームを同じ 768 次元空間のベクトルに変え、スマートフォンやノート PC 上で動く。
GitGlow
GitGlow · コーディング · 生産性向上GitGlow は自分のコードと AI エージェントの変更を一つのレビューにまとめるデスクトップ Git クライアントだ。出荷前に、マシンから何が出ていくのかを確かめられる。