AIモデル

ローカルで動かせるオープンソースLLMの選び方

オープンウェイトの代表モデルをライセンス、必要スペック、日本語性能の観点で比較。APIとの使い分けと、初めて試す際の順序までを整理する。

佐藤健太佐藤健太
人気度:760
ローカルで動かせるオープンソースLLMの選び方

手元のマシンで動かせる高性能モデルが、年々現実的になっている。無料で使えるモデルの中から、目的別にどれを選ぶべきかを、ライセンスの違いも含めて整理する。

オープンソースLLMとは何を指すのか

厳密には、学習データや学習手順まで公開されるものをオープンソースと呼ぶ。現実には重みだけを公開するモデルが主流で、これらはオープンウェイトと呼ばれる。学習の再現はできないが、自前の環境で実行し、追加学習させることはできる。

この区別は実務で効いてくる。重みが公開されていれば、外部にデータを送らずに済む。社内文書や顧客情報を扱う現場では、この一点が導入の可否を分ける。

代表的なモデルと特徴

現在の主要なオープンウェイト勢は、AlibabaのQwen、DeepSeekのV4系、Moonshot AIのKimi、Zhipu AIのGLM、MetaのLlama、GoogleのGemmaだ。それぞれ性格が違う。

総合指標ではKimi K3やGLM-5.3が商用最上位に肉薄する。推論重視ならDeepSeekのV4系、多言語や高精度のローカル運用ならQwen、ノートPCやエッジ機器ならGemmaというのが、おおよその住み分けになる。

ライセンスで何が変わるのか

商用利用の可否は、モデルごとに条件が違う。Apache 2.0のような寛容なライセンスは、改変も再配布も自由に近い。一方で、一定規模を超える利用に追加条件を課すライセンスもある。

導入前に確認したいのは、商用利用の範囲、再配布の可否、そして利用者数の上限だ。研究目的では自由でも、製品に組み込むと条件が変わるモデルがある。ライセンスは後から変更されることもあるため、採用時に確認した内容を記録しておきたい。

ローカルで動かすには何が必要か

動かすには相応のマシンパワーがいる。モデルの大きさはパラメータ数で表され、数が増えるほど必要なメモリも増える。量子化という圧縮技術を使えば、精度を多少落として必要資源を抑えられる。

目安として、小型モデルはノートPCでも動く。中型モデルは高性能GPUが要る。大型モデルを本格的に回すなら、複数のGPUを積んだサーバーが必要になる。手元の環境で現実的なのは、量子化した中型モデルだ。

クラウドのAPIとどう使い分けるか

APIは導入が速く、維持の手間がない。使った分だけ払う従量制で、小規模なら費用も抑えられる。その代わり、データは外部に出る。

ローカル運用は、初期の設備費用と運用の手間がかかる。だが一度動かせば、大量処理でも追加費用がかかりにくく、データは外に出ない。機密性が要る業務、通信が不安定な環境、長期的なコスト最適化を狙う場合に効く。

判断の分かれ目は、データを外に出せるかどうかと、利用量がどれくらい伸びるかだ。この二点がはっきりすれば、選ぶべき側は自然に決まる。

日本語での実用性

日本語の扱いも、モデルによって差がある。QwenやGemmaのように多言語を意識して学習されたモデルは、日本語でも実用的な品質を出しやすい。一方で、英語中心のモデルは日本語で崩れることがある。

日本語の性能を確かめるには、公開スコアより自分のタスクで試すほうが確実だ。敬語の扱い、固有名詞の表記、長文での一貫性など、確認したい点は用途ごとに違う。

どのモデルから試すべきか

初めて触るなら、ライセンスが扱いやすく、情報も多いQwenかGemmaから始めるのが無難だ。コーディング用途なら、コーディングに強いバリアントを選ぶ。推論の深さを求めるならDeepSeek系が候補になる。

まずは小さめのモデルで環境に慣れ、物足りなくなったら大きいモデルに移る順序が現実的だ。いきなり大型モデルを狙うと、動かすまでの手間で挫けやすい。

オープンウェイトの価値は、性能の高さだけではない。手元で完結できるという統制の自由にある。この自由が要るかどうかが、そもそも検討すべきかの判断基準になる。

このニュースを共有

出典

関連AIニュース

上昇する報酬曲線と27Bのバッジが並ぶ端末画面
AIモデル

DaisyRose-27B、強化学習だけでTerminal-Bench 4.1を5.6%から12.0%に

RadixArkは、Qwen3.8-27Bを土台に強化学習だけで鍛えたDaisyRose-27Bを公開した。Terminal-Bench 4.1のpass@1は5.6%から12.0%へ倍増した。18日間、1,200タスク、H200 144枚という規模の話である。

人気度:1,330
ノートPCの輪郭の内側で、3枚の層がループ矢印を通る図
AIモデル

Inkling 2 Miniは同じ層を3回通す、ノートPCで動く27B級モデル

Thinking Machines Labは11月20日、open weightsのInkling 2 Miniを公開した。24層の中間12層を1トークンにつき3回通すlooped transformerで、ノートPCに載る重さのまま48層分の計算を回す。

人気度:1,710
暗い背景に長く伸びるティール色の波形と、1本のオレンジのアクセントバー
AIモデル

0.5BのRumble-2-Flashが30Bの音声認識と並んだ

0.5Bのモデルが、30Bのモデルとほぼ同じ誤り率で電話音声を文字にする。Reson8が公開したRumble-2-Flashは、文字起こしの費用構造を変える側のニュースだ。

人気度:560
深い青の背景で、小さく光る核を囲む3つのネオンの輪
AIモデル

Gemini 4 Neonが有料プランに入った、選択肢は4つに

Googleは11月18日、Gemini 4 Neonを発表した。有料の加入者が最初に気にするのは、選択肢から二つの名前が消えたことと、新しいミドルクラスがいくらで動くかである。

人気度:1,500