Jan AI
Menlo Research · その他
Jan AIは、大規模言語モデルを自分のパソコン上で直接動かす無料のオープンソースデスクトップアプリだ。一度ダウンロードすれば、サーバーなしで使えるローカルLLMアプリである。モデルを選び、Useをクリックしてチャットを始める。マシンの外には何も出ない。プライバシーを重視する人、ローカルAPIが欲しい開発者、基本的なAI支援にトークン単位で払うのに疲れた人に向く。オフラインで動くため、Jan AIは機密性の高い作業向けのプライベートAIチャットツールも兼ねる。アカウントは不要。月末の請求もない。
Jan AI について
Jan AIとは
Jan AIは、自分のマシン上で100%オフラインで動くオープンソースのChatGPT代替だ。開発元のMenlo ResearchがWindows・macOS・Linux向けのデスクトップアプリとして提供し、Dockerでのデプロイもできる。プロンプトをクラウドサービスに送る代わりに、Jan AIはモデルを自分のハードウェアに読み込み、そこから答える。外部APIを意図的に接続しない限り、会話がパソコンの外に出ることはない。
最もよく解決するのは、便利さとプライバシーのトレードオフだ。多くのチャットボットではきれいなインターフェースが得られる代わりにデータを渡すことになる。llama.cppのような生のツールなら制御は保てるが、モデルを切り替えたり設定を変えたりするたびにコマンドラインと格闘することになる。Jan AIはその中間に位置する。見慣れたチャットウィンドウ、ダウンロード用のモデルハブ、ローカルAPIサーバーを備えるので、技術者でないユーザーも数分で始められ、開発者は本格的に組み込める土台を得る。このバランスは珍しい。
主な制約はハードウェアだ。小さいモデルは最新のノートパソコンで問題なく動く。大きいモデルには大量のRAMか専用GPUが要るし、それでも品質が最先端のクラウドモデルに常に並ぶわけではない。家庭用マシンに収まるオープンな重みは、たいてい最大級のホスト型システムより一歩か二歩遅れているからだ。最初のチャットの前にモデルをダウンロードする必要もあり、回線によっては数ギガバイトになる。Jan AIに有料プランはなく、背後にサポート契約もマネージドホスティングもない。
はじめかた
- jan.aiにアクセスし、自分のシステム向けのインストーラー（Windows・macOS・Linux）をダウンロードして実行する。
- アプリを開き、モデルハブに移動して、Llama、Mistral、Gemmaなどのモデルを選び、ダウンロードをクリックする。
- ダウンロードが終わったら、Useを押してそのモデルを有効なアシスタントに設定する。
- チャットウィンドウに最初のプロンプトを入力して送信する。ここからはすべてローカルで動く。
- 任意：設定を開き、ローカルAPIサーバーを起動して、OpenAI互換のアプリを
http://127.0.0.1:1337に向ける。
AIツール情報
Jan AIの料金、対応プラットフォーム、性能を簡単に確認できます。
こんな人におすすめ
このツールが最も力を発揮するユーザー、タスク、シーン。
ユーザー
- プライバシー重視のユーザー：すべてのプロンプトを自分のディスクに置ける。アカウントもクラウドのログも不要。
- 開発者：内蔵のOpenAI互換APIを使い、ローカルモデルを自分のアプリにつなげられる。
- 学生や趣味の人：マシンに十分なRAMがあれば、APIクレジットを払わずにLlamaやMistralなどのモデルを試せる。
タスク
- 機密文書の作成：契約書、メモ、社内文書をどこにもアップロードせずに扱える。
- オフラインでのアイデア出し：飛行機の中でも、カフェでも、通信が切れる場所でもAIを使い続けられる。
- ローカルでの試作：有料APIに踏み切る前に、無料モデルでチャットボットのアイデアを試せる。
シーン
- Wi-Fiが不安定な長距離移動：このオフラインチャットボットはノートパソコンから答え続ける。
- 機密資料を扱う小さなチーム：外部への呼び出しなしで、すべて社内ハードウェア上で動かせる。
- ローカルモデルの挙動を学ぶ：1つのインターフェースでモデルを切り替え、回答を並べて比べられる。
主な機能
完全オフラインのチャット
Jan AIは会話のすべてを自分のハードウェアで動かすので、アプリはネット接続がまったくなくても機能する。あなたのメッセージとモデルの返答はサーバーではなくローカルストレージに直接届く。マシンの外には何も出ない。これが、ホスト型チャットボットではなくこれを選ぶ根本的な理由だ。後からリモートAPIを接続するなら、それは既定ではなく自分の選択である。それだけのことだ。
OpenAI互換のローカルAPIサーバー
アプリには、OpenAIのエンドポイントと同じ形式で話すローカルAPIサーバーが付属する。設定から起動すると、http://127.0.0.1:1337で待ち受ける。すでにOpenAIとやり取りしているツールやスクリプトなら、1行変えるだけでこのアドレスに向けられる。開発者にとっては、無料のダウンロードがテストや小規模デプロイにそのまま使えるバックエンドになる。
モデルハブとカスタムモデル
内蔵のハブで人気のオープンモデルを閲覧・ダウンロードでき、Hugging Faceのリンクを貼れば特定のモデルを取得できる。Jan AIはGGUF形式をサポートし、llama.cppなどのエンジンで動く。TensorRT-LLMも選択肢の一つだ。会話の途中でモデルを切り替えるのは素早くできるので、同じタスクで小さく速いモデルと大きいモデルを比較できる。
クロスプラットフォームのデスクトップアプリ
1つのアプリでWindows・macOS・Linuxをカバーし、サーバー構成向けにDockerの道もある。Jan.aiデスクトップのインターフェースは各システムで同じなので、ノートパソコンで覚えたことは何も覚え直さずデスクトップに引き継げる。混在したハードウェアを使うチームにとって、この一貫性は、丸々半日を食って全員をいら立たせる設定いじりを省く。
拡張機能とアシスタント
Jan AIは拡張可能なフレームワークとして作られ、それ自身の機能はその層の上に載っている。開発者はプラグインを追加し、独自の指示を持つカスタムアシスタントを作れる。PDFやテキスト文書などのファイルを添付し、モデルに読ませることもできる。これが、アプリをただのチャットボックスで終わらせない部分だ。
持ち運べるデータ
会話はローカルファイルとして保存される。つまり、いつでも削除・エクスポート・移行できる。エクスポートボタンが不思議と存在しないベンダーに縛られることはない。離れると決めたら、履歴は自分と一緒に移動する。エクスポートウィザードもなし。待ち時間もなし。
メリットとデメリット
メリット
- 完全に無料でオープンソース。サブスクもトークン課金もない。
- オフラインで動くので、回線がだめでも動き続ける。
- ローカルAPIサーバーはOpenAI互換で、既存プロジェクトに組み込みやすい。
- 1回のダウンロードでWindows・macOS・Linuxで動く。
デメリット
- モデル品質はハードウェア次第。大きいモデルは大量のRAMか強力なGPUが要る。
- チャットの前にモデルをダウンロードする必要があり、大きいものは時間とディスク容量を食う。
- 公式のマネージドサポート層がないので、トラブル対応はコミュニティとドキュメント頼みになる。
よくある質問
無料だ。Jan AIは無料でオープンソースであり、有料プランもトークン課金もない。お金がかかるのは自分のハードウェアと電気だけだ。OpenAIやAnthropicのような有料APIに接続する場合は、その費用は別で任意になる。
関連コンテンツ
Jan AIに関連するツール、スキル、記事を探す。
Jan AIの代替ツール
BinkBink
BinkBink · その他BinkBinkは無料のオンラインゲームプラットフォームであり、AIゲームメーカーでもある。短いテキストの説明を、誰でも遊べるブラウザゲームに変えられる。コミュニティが作った数百本のゲームにすぐ飛び込める。あるいは自分のアイデアを説明すれば、数秒で遊べて、そのまま友達と共有できる。自分のゲームを作りたい？プログラミングは要らない。エンジンの設定も、ダウンロードも、面倒なこともない。
Audiogen
Audiogen Inc. · その他Audiogenは、Audiogen Inc.が開発したAI音楽生成ツールだ。小さな研究チームが約2年半かけて自社の生成型音楽モデルを訓練し、その周りにWebインターフェースを設計した。このAI音楽ツールは単なるテキストボックスではなく、タイムラインを初心者に優しい生成型オーディオワークステーション（Generative Audio Workstation、略してGAW）へと変える。そこではインペインティング、延長、リミックス、ステム編集が、キャンバスに絵を描くように機能する。製品はまだベータ版で、アクセスは順番待ちリストか招待で行う。有料プランはまだ公開されていない。
Aiml API
AIMLAPI OÜ · その他Aiml APIは、OpenAI、Google、Anthropicなどの1000以上のモデルを1つのエンドポイントと1つの請求にまとめる統合AIモデルAPIだ。単一のOpenAI互換スキーマに対してコードを書き、モデル文字列を変えるだけでチャット、画像、動画、音声のモデルを切り替えられる。十数の事業者アカウントを使い分けずにマルチモデルへアクセスしたい開発者や小規模チームに向き、複数ベンダーを試すときに付きまとう請求の手間もなくす。1つの鍵ですべてをまかなえる。