AIモデル

南北閣が33Bのオープンモデル、先生を作って小型モデルに蒸留する設計

BOSS直聘の研究室Nanbeige LLM Labが33Bの密なモデルをApache 2.0で公開した。512Kのコンテキスト、自己申告のベンチマーク、3Bへの蒸留という位置づけを整理する。

佐藤健太佐藤健太
人気度:1,120
南北閣が33Bのオープンモデル、先生を作って小型モデルに蒸留する設計

求人サービスのBOSS直聘が持つ研究室が、33BのオープンウェイトモデルをApache 2.0で公開した。狙いは最強の33Bではない。小型モデルに教えるための「先生」を先に作ることにある。

Nanbeige4.3-33Bを出したのは誰か

Nanbeige LLM Labは10月25日、Hugging FaceでNanbeige4.3-33Bを公開した。ライセンスはApache 2.0。事後学習を自前で組みたい人向けに、Nanbeige4.3-33B-Baseも同時に出ている。

運営元は求人プラットフォームのBOSS直聘(ボス直聘)社内の研究室だ。中国では採用と人材検索の巨大サービスで、ここ数年AIの研究開発に力を入れている。

公開時点でHugging Face上に推論プロバイダーの登録はない。自分で立てるか、自前のGPUを用意するかになる。

Nanbeige4.3-33BがDense型を選んだ理由

33BはDense(高密度)型のモデルである。Mixture of Experts(MoE)のように一部のパラメータだけを動かすのではなく、1トークンごとに33Bすべてを通す。

効率はMoEに劣る。代わりに挙動が読みやすく、量子化や蒸留の土台として扱いやすい。同社がこのモデルを「先生」と位置づけるのは、そのためだ。

Nanbeige4.3-33Bの512Kコンテキストとメモリの現実

コンテキスト長は524,288トークン、つまり512K。長い設計書やリポジトリをまとめて読ませる用途を狙う。

アーキテクチャは標準的なLlamaForCausalLMだ。52レイヤー、hidden 7,168、クエリヘッド56、KVヘッド8のGQA、語彙166,912、RoPE theta 1.2e8。既存の推論基盤にそのまま載せられる形になっている。

重さは無視できない。BF16の重みだけで約66GB。KVキャッシュは1トークンあたり約208KiBで、512Kを埋めると約112GBになる。では、手元で動かすには何が必要か? 答えは「重みとKVキャッシュを合わせて200GB近いメモリ」だ。

Nanbeige4.3-33Bの自己申告、20項目中17項目で先行

同社は20項目のベンチマークで、Qwen3.8-27B、Muse-Glimmer-30B、Gemma4-31Bと比較した表を出している。すべて最高の思考強度で回した設定だ。

結果は20項目中17項目で先行とされる。差が大きいのはエージェント系である。コマンド操作を測るTerminal-Bench 2.1は80.9で、Qwen3.8-27Bの73.0を上回る。DeepSWEは65.5対42.5、Automation Benchは54.2対38.3、JobBenchは44.8対34.5。数学のAIME 2026は95.2、長文読解のAA-LCRは84.0としている。

数字はすべて同社の申告で、第三者評価はまだない。ここは前提として押さえておきたい。

負けた項目と、食い違うベンチマークの数字

負けている項目もある。SWE-Bench Proは60.3で、Qwen3.8-27Bの61.7に届かない。GDPvalは84.8対86.4で後れを取る。Terminal-Bench 4.0は23.8と、自社の表の中で最も低い。

さらに、比較表には整合しない箇所がある。Muse-Glimmer-30BとGemma4-31BのSWE-Bench Proの値が、Metaの公式値(51.2と36.9)と入れ替わった形で載っている。GPQA DiamondでGemma4-31Bに与えた91.3も、Googleの公式値84.3と合わない。

評価ハーネスの違いで説明できる部分はある。ただ、SWE-Bench Proの2行は書き違えたように見える。個々のスコアは独立した再現を待つ段階だ。

先生を作ってNanbeige4.3-3Bに蒸留する設計

このモデルの位置づけは、モデルカードに明記されている。まず強い33Bのエージェントを作り、それを近く公開されるNanbeige4.3-3Bに蒸留する。33Bは製品ではなく、教材である。

蒸留は、大きいモデルの出力を小さいモデルに学ばせる手法だ。教師の質がそのまま生徒の上限になる。だから先に33Bを出した、という順番になる。

実際に配るのは3Bの側になる可能性が高い。33Bはその品質を測るための参照点として使うのが自然だ。

Nanbeige4.3-33Bを動かすための構成

モデルカードにはTransformers、SGLang、vLLMの手順が載る。例は4分割のテンソル並列。エージェント用途ではtemperature 1.0、top_p 0.95、新規トークン65,536を推奨する。推論とチャットはtemperature 0.6で262,144まで。

4枚のGPUを並べる前提は、個人には重い。コミュニティ版のQ8 GGUFは約35.2GBで、32KのKVキャッシュを載せれば48GBの1枚で動く。長文を詰め込む用途と、手元で試す用途は構成が分かれる。

33Bをすぐ試すより、3Bの登場を待つ判断も妥当だ。独立評価が出るまでは、スコアは参考値として扱いたい。

このニュースを共有

出典

関連AIニュース

ローカルで動く6つの小型モデル、Liquid AIがLFM3を公開
AIモデル

ローカルで動く6つの小型モデル、Liquid AIがLFM3を公開

Liquid AIはLFM3を公開した。テキスト、視覚、音声、omni、判断の6モデルを1つの1.7B基盤から分け、端末での実行を前提に設計した。重みはHugging Faceで入手できる。

人気度:1,500
映像と音を同時に生む世界モデル、Google DeepMindのGenie 4
AIモデル

映像と音を同時に生む世界モデル、Google DeepMindのGenie 4

Google DeepMindが10月27日、世界モデル「Genie 4」を研究プレビューとして公開した。音声をネイティブに生成し、進行中の指示でシーンを変えられる。提供範囲と残る限界を整理する。

人気度:1,700
GPT-6.1 Terra、API価格を半額にしたOpenAIが狙う大量処理
AIモデル

GPT-6.1 Terra、API価格を半額にしたOpenAIが狙う大量処理

OpenAIは10月26日、入力1ドル・出力5ドルという先代の半額の価格でGPT-6.1 Terraを公開した。速さと安さを軸に、請求書処理のような高頻度の作業を狙う。

人気度:1,780
Blockの音声モデルDessa、文字を使わず会話だけで学習
AIモデル

Blockの音声モデルDessa、文字を使わず会話だけで学習

Blockは会話音声だけで学習した音声モデルDessaを10月23日に公開した。APIも重みも価格もなく、外から確認できるのはデモ音声と待機リストだけである。

人気度:1,450