Meta Notebook Llama

Meta Llamaとは

Meta Llamaは、重みを誰でもダウンロードして動かせる言語モデルの一群だ。2023年に始まり、現在はLlama 4 Scout、Llama 4 Maverick、そしてLlama 3.3 70BやLlama 3.1 405Bといった旧世代のテキストモデルまで含む。学習と重みの公開はMetaが担い、運用は利用者に委ねられる。

この分担こそが要点だ。オープンウェイトAIモデルは、モデルファイルを自分の管理下に置く。GPU、量子化、コンテキスト長、システムプロンプトは自分で決める。外へ送らない限り、通信内容が自社ネットワークから出ることはない。

代わりに運用の手間を引き受けることになる。管理画面もトークン課金のメーターもない。ハードウェアを用意し、推論サーバを立て、メモリを監視し、更新をこなす。Metaは2026年7月6日に自社ホストのLlama APIも終了したため、ホスト型の利用はTogether AIやFireworks、あるいは自社クラウドアカウント経由になる。

導入の流れ

1. llama.comかHugging FaceのMeta Llamaページでアクセスを申請し、ライセンスに同意する。承認はたいてい数日以内に下りる。同じメールアドレスで登録したHugging Faceアカウントが必要だ。
2. モデルは順位表ではなく手持ちのハードウェアで選ぶ。Scoutは4ビット量子化なら80GBのGPU1枚に収まる。Maverickは複数枚を要する。Llama 3.3 70Bはその中間だ。
3. 推論サーバを構築する。スループット重視ならvLLM、ノートPCや小型機ならllama.cppかOllama、Nvidia製品で固めているならTensorRT-LLMが定番となる。
4. 自分のプロンプトで先に試す。業務から取った実タスク20件の方が、公開ベンチマークより判断材料になる。
5. 微調整するか、そのまま公開する。ドメイン適応の多くはLoRAアダプタで足りる。GPUを避けたい場合は、同じ重みを配信する外部エンドポイントをクライアントの向き先にすればよい。