ChatGPTやGeminiの裏側で動いている「LLM」という言葉、なんとなく分かったつもりで使っていないだろうか。名前の由来から仕組み、苦手なことまで、一度きちんと押さえておくと、AI選びの解像度が変わる。
LLMとは何の略で、何をするものか
LLMはLarge Language Modelの略で、日本語では大規模言語モデルと呼ぶ。大量のテキストを学習し、次に来る言葉を予測することで文章を理解したり生成したりする。
従来の言語処理モデルは、翻訳や分類など一つの作業に特化していた。LLMは規模を極端に大きくし、学習のさせ方も変えたことで、要約、翻訳、質問応答、コード生成まで幅広くこなせるようになった。一つのモデルが複数の用途を兼ねる点が、かつての仕組みとの大きな違いだ。
身近な例で言えば、メールの下書き、長い資料の要約、エラーメッセージの意味調べ。こうした作業の裏側で、同じLLMが動いている。
LLMはどうやって言葉を生み出しているのか
仕組みの中心にあるのがトランスフォーマーという構造だ。文中の単語同士の関係を、位置に関係なく同時に評価できる。前から順に読む旧来の方式より、文脈のつながりを捉えやすい。
学習の段階は大きく二つある。まず大量のテキストから「次に来る単語」を当てる練習を繰り返す。これで言語の統計的なパターンを身につける。そのうえで、人間の指示に従い、望ましい回答をするよう追加で調整する。ChatGPTのような対話の自然さは、この後半の調整で生まれる。
ここで押さえたいのは、LLMは意味を「理解」しているのではなく、確率を計算しているという点だ。もっともらしい続きを選び続けているにすぎない。だから流暢なのに事実として間違っている、いわゆるハルシネーションが起きる。
パラメータと学習データが規模を決める
LLMの「大きさ」はパラメータの数で語られることが多い。パラメータとは、学習を通じて調整される内部の数値のこと。ニューラルネットワークの中に無数に並んでおり、その総数がモデルの表現力を左右する。
初期のBERTは約3億4000万、GPT-3は1750億のパラメータを持っていた。現在の最先端モデルは非公開のものが多く、数だけでは比較できなくなっている。ある研究では、パラメータを増やし学習データと計算量も増やすと性能が伸びるという関係が示された。近年のモデルが大型化したのは、この法則に沿った結果だ。
最新の傾向としては、単純に数を増やすだけでなく、必要な場面でだけ考えさせる設計が広がっている。常に最大の計算を回すのはコストが高いからだ。規模と効率のバランスをどう取るかが、各社の腕の見せどころになっている。
LLMが苦手なこと
できることの幅が広いぶん、苦手もはっきりしている。第一に、事実の正確さだ。もっともらしい文章を作る力と、正しいことを言う力は別物である。学習データにない情報や、カットオフ以降の出来事は答えられない。
第二に、計算や厳密な論理。文章生成は得意でも、多桁の計算や細かい条件分岐を正確にこなすのは苦手で、途中で手順を飛ばすことがある。ツールを呼び出して補う設計が増えたのは、この弱点を埋めるためだ。
第三に、最新情報へのアクセス。モデル単体は学習時点で知識が止まる。検索と組み合わせて初めて、今日のニュースを扱える。
LLMと生成AIはどう違うのか
生成AIは、テキストや画像、音声など新しいコンテンツを作る技術の総称だ。LLMはそのうち、言語の扱いに特化した一類型にあたる。だから「生成AIの一種がLLM」という関係になる。
画像を生成する仕組みは、テキストを生成するLLMとは設計が異なる。ただし最近は、言語だけでなく画像や音声も同時に扱うマルチモーダルなモデルが増えており、境界は薄くなっている。ChatGPTに写真を送って内容を尋ねられるのは、この進化の表れだ。
用途別にどのモデルを選ぶか
普段の文章作成や調べものなら、標準的な対話モデルで足りる。長い資料を読ませたい、複雑な推論をさせたいとなると、推論に計算を割くタイプが向く。用途が固まっていない段階で高性能なモデルを契約しても、使いこなせないことが多い。
日本語の精度もモデルによって差がある。日本語のデータを多く学習したモデルや、日本語向けに調整されたモデルのほうが、敬語の扱いや固有名詞の表記で安定しやすい。
費用はAPIの利用量で決まる場合と、月額の定額プランで決まる場合がある。個人が試すなら定額プラン、業務に組み込むならAPI、というのが基本的な分かれ目になる。
よくある質問
LLMとChatGPTは同じものか。 別物だ。ChatGPTはLLMを対話形式で使えるようにした製品で、その中身に複数のLLMが使われている。モデルは部品、ChatGPTはその部品を載せた製品という関係になる。
LLMは自分で作れるのか。 学習には大規模な計算資源とデータが必要で、ゼロから作るのは現実的でない。ただし公開されたモデルを土台に、自社データで追加学習させることは中小規模でも可能になっている。
学習データに私の情報は入っているか。 公開ウェブのデータが多く使われる。個人が特定できる情報や非公開のデータは、通常は学習に含まれない。ただし入力した内容が学習に使われる設定かどうかは、サービスごとに確認したい。
LLMは万能の知識装置ではなく、言葉のパターンを操る確率機械である。この前提を持っておけば、どこを信用し、どこを自分で確かめるべきかの線引きができる。
