Nanbeige, le laboratoire interne de la plateforme d'emploi chinoise BOSS Zhipin, a publié le 25 octobre un modèle de 33 milliards de paramètres sous licence Apache 2.0. Sa particularité n'est pas la taille. Il servira de professeur à une version 3B encore à venir.
Nanbeige4.3-33B, un modèle dense sous Apache 2.0
Le dépôt est en ligne sur Hugging Face depuis le 25 octobre, avec une variante Base destinée à ceux qui veulent mener leur propre post-entraînement. La licence Apache 2.0 autorise l'usage commercial sans redevance, ce qui reste assez rare pour être signalé quand le modèle vient d'Asie.
Nanbeige n'est pas un laboratoire indépendant. C'est l'équipe de recherche de BOSS Zhipin, une plateforme de recrutement chinoise cotée à New York, ce qui explique le positionnement très orienté « travail de bureau » : recherche d'information, manipulation d'outils, tâches administratives répétitives.
Le modèle n'a pas d'hébergeur d'inférence au lancement. Il faut donc le servir soi-même ou passer par un fournisseur qui accepte de charger 66 Go de poids, ce qui restreint fortement le public réel.
Nanbeige4.3-33B : 33 milliards de paramètres et 512K de contexte
La fiche technique décrit un modèle dense, et non un mélange d'experts. Chaque token activé traverse donc l'intégralité des paramètres, là où un modèle à experts n'en réveille qu'une fraction. C'est plus lent et plus gourmand, mais aussi plus simple à servir et à affiner.
Caractéristique | Nanbeige4.3-33B |
|---|---|
Paramètres | 33 milliards, architecture dense |
Contexte | 524 288 jetons (512K) |
Poids en BF16 | environ 66 Go |
Architecture | LlamaForCausalLM, 52 couches |
Attention | groupée (GQA), 56 têtes de requête, 8 têtes KV |
Vocabulaire | 166 912 entrées |
Licence | Apache 2.0 |
La fenêtre de contexte est l'argument le plus visible. Elle est aussi le plus coûteux. Un demi-million de jetons couvre à peu près l'équivalent d'un millier de pages, ce qui permet de charger un dépôt de code entier ou un dossier administratif complet sans découpage préalable.
Cette capacité a un coût caché, et il est considérable. Le cache d'attention occupe environ 208 KiB par token. Rempli jusqu'à 512K, il réclame à lui seul près de 112 Go de mémoire, en plus des 66 Go de poids.
Les scores annoncés par Nanbeige
Les comparatifs de la fiche technique opposent le modèle à trois concurrents de taille voisine : Qwen3.8-27B, Muse-Glimmer-30B et Gemma4-31B, tous évalués à leur niveau de réflexion maximal. Nanbeige revendique la première place sur 17 des 20 épreuves.
Les écarts les plus nets concernent le travail d'agent. Certains sont spectaculaires. Sur Terminal-Bench 2.1, qui mesure la capacité à mener des tâches en ligne de commande, le modèle annonce 80,9 contre 73,0 pour Qwen3.8-27B. Sur DeepSWE, qui demande de comprendre un dépôt et d'y écrire du code valide, 65,5 contre 42,5. Sur Automation Bench, 54,2 contre 38,3.
Deux autres chiffres complètent le tableau : 95,2 sur AIME 2026, un test de mathématiques de niveau concours, et 84,0 sur AA-LCR, qui évalue l'exploitation d'un très long contexte. Aucun de ces résultats n'a été reproduit par un laboratoire indépendant.
Trois scores où Nanbeige4.3-33B passe derrière
Une fiche technique honnête cite aussi ses défaites. Celle-ci en contient. Sur SWE-Bench Pro, Nanbeige4.3-33B obtient 60,3 contre 61,7 pour Qwen3.8-27B. Sur GDPval, un test de tâches économiquement valorisables, 84,8 contre 86,4.
Le troisième chiffre dérange davantage. Sur Terminal-Bench 4.0, le modèle plafonne à 23,8, le score le plus bas de son propre tableau. Deux versions du même test donnent donc des images très différentes. 80,9 d'un côté, 23,8 de l'autre. La version 4.0 est plus récente et plus dure, ce qui explique une partie de l'écart, mais l'ampleur mérite d'être gardée en tête avant de citer le beau score.
Un tableau Nanbeige qui contient des erreurs
La fiche technique a un défaut plus gênant. Sur SWE-Bench Pro, les scores attribués à Muse-Glimmer-30B et à Gemma4-31B semblent inversés par rapport aux publications de Meta et de Google, qui donnent respectivement 51,2 et 36,9.
Autre anomalie : GPQA Diamond, un test de sciences de niveau doctorat, est crédité de 91,3 pour Gemma4-31B, quand Google annonce 84,3. Un écart de sept points ne s'explique pas par un simple changement de méthode d'évaluation.
Des différences de harnais de test peuvent décaler les résultats de plusieurs points, surtout en agents. Sur les benchmarks d'agents, la version de l'outil change tout. Deux lignes inversées, en revanche, ressemblent davantage à une erreur de copie. La conclusion pratique : traitez l'ensemble du tableau comme une déclaration d'intention, pas comme une mesure.
66 Go de poids, 112 Go de cache : la facture matérielle
Faire tourner ce modèle chez soi n'a rien d'anodin. La fiche donne des recettes pour Transformers, SGLang et vLLM, avec un exemple en parallélisme tensoriel sur quatre voies. Autrement dit, quatre GPU pour commencer à travailler confortablement. Combien d'équipes les ont ?
La quantification change la donne. Une version GGUF en Q8 circule déjà, autour de 35,2 Go, et tient sur une carte de 48 Go si l'on se limite à 32K de contexte. C'est le compromis classique : on gagne en accessibilité, on perd en fidélité, et l'écart avec la version BF16 n'est pas documenté.
Les réglages recommandés varient selon l'usage. Pour un agent, température 1.0, top_p 0.95 et 65 536 jetons générés au maximum. Pour une conversation ou du raisonnement posé, température 0.6 avec la fenêtre complète.
Un professeur avant l'élève : la stratégie de Nanbeige
La stratégie de Nanbeige se lit dans le calendrier. Ce modèle de 33 milliards de paramètres n'est pas une fin en soi : c'est le professeur. L'équipe compte distiller ses capacités dans un Nanbeige4.3-3B, dix fois plus petit, qui pourra tenir sur une machine ordinaire.
La méthode est bien rodée dans l'open source chinois. On entraîne un grand modèle jusqu'à un bon niveau sur les tâches visées, puis on fait apprendre au petit à imiter ses réponses, y compris ses raisonnements intermédiaires. Le résultat n'égale jamais le professeur, mais il atteint souvent un niveau utile à une fraction du coût.
L'intérêt de publier le professeur en premier est double. Cela donne un modèle immédiatement utilisable aux équipes qui ont les machines, et cela documente la méthode pour la communauté, qui pourra juger la qualité de la distillation sur pièces.
Ce que change une licence Apache 2.0
Pour une entreprise, la licence compte plus que le classement. Apache 2.0 autorise l'usage commercial, la modification et la redistribution, avec une clause de brevet qui protège l'utilisateur. Rien à voir avec les licences communautaires restrictives que publient la plupart des laboratoires chinois.
Un modèle de 33 milliards de paramètres affinable sans accord préalable ouvre des usages que les API refusent : données clients qui ne sortent pas, vocabulaire métier, version figée pendant des années. C'est exactement ce que cherchent les secteurs réglementés.
Encore faut-il que la qualité suive. Sur les tâches de code, les chiffres annoncés sont élevés ; sur l'écriture et le raisonnement général, la fiche est plus discrète, et aucun test indépendant ne comble le vide.
À suivre chez Nanbeige
Le vrai rendez-vous est la sortie du Nanbeige4.3-3B, qui dira si la distillation tient ses promesses. D'ici là, les premiers retours sur la version quantifiée du 33B seront plus informatifs que les tableaux : c'est à ce prix que le modèle devient réellement déployable.
Si vous voulez tester, commencez par la variante Q8 sur une seule carte, avec un contexte de 32K, et comparez sur vos propres tâches avant de croire un score de Terminal-Bench.
