Ein offenes Modell mit 33 Milliarden Parametern, das jede Anfrage durch alle Gewichte schickt, ist 2026 selten geworden. Nanbeige hat eines veröffentlicht, unter Apache 2.0, mit einer halben Million Token Kontext und einer Benchmark-Tabelle, die zwei Zeilen enthält, die man nachprüfen sollte.
Nanbeige4.3-33B steht seit dem 25. Oktober auf Hugging Face
Nanbeige LLM Lab hat Nanbeige4.3-33B am 25. Oktober auf Hugging Face freigegeben. Die Lizenz ist Apache 2.0, also gewerblich nutzbar ohne Sondervereinbarung. Neben dem fertigen Modell liegt eine Basisvariante bereit, Nanbeige4.3-33B-Base, die sich für eigenes Nachtraining gedacht ist.
Hinter dem Labor steht BOSS Zhipin, die größte Jobplattform Chinas. Ein Unternehmen, das Stellen vermittelt, trainiert also ein Programmiermodell für Agenten. Das ist kein Zufall: Ein Modell, das Aufgaben in einer Konsole selbstständig abarbeitet, passt zu einem Geschäft, in dem es um Bewerbungen, Lebensläufe und Gespräche geht.
Beim Erscheinen war kein Anbieter auf Hugging Face gelistet, der das Modell als Dienst hostet. Wer es nutzen will, lädt die Gewichte selbst.
Warum ein dichtes 33B-Modell heute eine Besonderheit ist
Die meisten offenen Modelle dieser Größe sind heute Mixture-of-Experts. Bei dieser Bauform rechnet pro Token nur ein Teil der Gewichte, was Rechenlast spart und größere Modelle wirtschaftlich macht. Nanbeige4.3-33B geht den anderen Weg: alle 33 Milliarden Parameter rechnen bei jedem Token mit.
Das klingt altmodisch und hat einen praktischen Vorteil. Ein dichtes Modell verhält sich gleichmäßig. Es gibt keine Expertenwahl, die je nach Thema anders ausfällt, und damit auch keine Aufgaben, bei denen plötzlich der falsche Teil des Netzes zuständig ist. Wer ein Modell feinabstimmen will, hat es mit einem einzigen zusammenhängenden Netz zu tun, nicht mit einem Bündel, das man getrennt behandeln muss.
Der Preis dafür steht auf der Stromrechnung. Für jede Ausgabe bewegt das Modell mehr Gewichte als ein MoE-Modell ähnlicher Fähigkeit, und bei langen Kontexten wächst dieser Nachteil, weil zusätzlich der Zwischenspeicher für die Aufmerksamkeit dazukommt.
524.288 Token Kontext und was das im Alltag bedeutet
Nanbeige nennt ein Kontextfenster von 524.288 Token, also eine halbe Million. Auf Papier sind das mehrere hundert Seiten in einem Durchgang oder ein ganzes Repository mittlerer Größe, ohne dass man es in Häppchen zerlegen muss.
Die Architektur ist Standardkost: 52 Schichten, eine versteckte Dimension von 7.168, 56 Abfrageköpfe und 8 Schlüssel-Wert-Köpfe im Verhältnis der gruppierten Abfrage, ein Wortschatz von 166.912 Einträgen, RoPE mit einem Theta von 1,2 mal 10 hoch 8. Wer schon einmal ein Llama-Modell geladen hat, kennt die Klasse: LlamaForCausalLM. Das heißt, die vorhandenen Werkzeuge funktionieren ohne Bastelei.
Eine halbe Million Token ist beeindruckend und in der Praxis selten nötig. Die interessante Frage lautet nicht, wie viel hineinpasst, sondern ob das Modell bei 300.000 Token noch weiß, was auf Seite zwölf stand. Dazu gibt es in der Ankündigung keinen Test, nur die Angabe zum Fenster.
Die Benchmark-Tabelle von Nanbeige hat zwei verdächtige Zeilen
Nanbeige vergleicht das Modell mit Qwen3.8-27B, Muse-Glimmer-30B von Meta und Gemma4-31B von Google, jeweils in der höchsten Denkstufe. Nach diesen Zahlen führt Nanbeige4.3-33B in 17 von 20 Tests.
Die auffälligsten Werte:
Benchmark | Nanbeige4.3-33B | Qwen3.8-27B |
|---|---|---|
Terminal-Bench 2.1 | 80,9 | 73,0 |
DeepSWE | 65,5 | 42,5 |
Automation Bench | 54,2 | 38,3 |
JobBench | 44,8 | 34,5 |
AIME 2026 | 95,2 | nicht genannt |
AA-LCR | 84,0 | nicht genannt |
Das sind Herstellerangaben. Eine unabhängige Auswertung gibt es nicht, und der Abstand bei DeepSWE, also 23 Punkte, ist so groß, dass man ihn ohne Nachprüfung nicht als gegeben hinnehmen sollte.
Zwei Zeilen der Tabelle sind zudem auffällig. Nanbeige führt Muse-Glimmer-30B und Gemma4-31B bei SWE-Bench Pro mit Werten, die laut den offiziellen Angaben der beiden Hersteller vertauscht sind: Offiziell steht Muse-Glimmer-30B bei 51,2 und Gemma4-31B bei 36,9, in der Tabelle von Nanbeige tauchen die Zahlen in umgekehrter Reihenfolge auf. Beim GPQA Diamond nennt Nanbeige für Gemma4-31B den Wert 91,3, Google selbst gibt 84,3 an.
Unterschiedliche Testumgebungen erklären einen Teil solcher Abweichungen. Bei den beiden SWE-Bench-Pro-Zeilen sieht es eher nach einem Zahlendreher aus. Wer die Tabelle zitiert, sollte sie als das kennzeichnen, was sie ist: eine Selbstauskunft, die auf unabhängige Wiederholung wartet.
Wo Nanbeige4.3-33B gegen Qwen3.8-27B verliert
Ein Blick auf die Zeilen, in denen das Modell nicht führt, sagt mehr über den Charakter als die 17 Siege. Bei SWE-Bench Pro steht Nanbeige bei 60,3 und Qwen3.8-27B bei 61,7. Bei GDPval liegt Nanbeige mit 84,8 knapp hinter 86,4.
Am deutlichsten wird es bei Terminal-Bench 4.0. Dort kommt Nanbeige auf 23,8, den niedrigsten Wert der eigenen Tabelle. Die neuere Version dieses Tests stellt Aufgaben, die länger laufen und mehr Werkzeuge brauchen, und genau dort bricht das Modell ein. Terminal-Bench 2.1, wo es 80,9 erreicht, prüft kürzere Abläufe.
Für Anwender heißt das: Das Modell ist stark bei klar umrissenen Agentenaufgaben mit prüfbarem Ergebnis und schwächer, wenn ein Lauf über hunderte Schritte geht und zwischendurch Entscheidungen verlangt. Wer es für lange Automatisierungen einplant, sollte genau diese Aufgabe testen und nicht die AIME-Zahlen.
66 GB Gewichte: was Sie für den Betrieb brauchen
Die Gewichte in BF16 belegen rund 66 GB. Dazu kommt der Zwischenspeicher für den Kontext, der bei etwa 208 Kibibyte pro Token liegt. Bei einem vollen Fenster von 524.288 Token sind das grob 112 GB zusätzlich. Beides zusammen sprengt jede einzelne Verbraucherkarte, und auch eine Workstation mit 96 GB kommt nur mit kleinerem Kontext hin. Reicht dann eine Karte mit 48 GB? Mit dem Original nicht, mit einer quantisierten Fassung schon.
Die Modellkarte liefert Rezepte für Transformers, SGLang und vLLM. Das Beispiel arbeitet mit vierfachem Tensor-Parallelismus, also über vier GPUs verteilt. In der Community kursiert eine quantisierte Fassung in Q8 mit rund 35,2 GB, die mit 32.000 Token Kontext auf einer einzelnen Karte mit 48 GB läuft. Für einen Test im Haus ist das ein gangbarer Weg, für Produktion nicht.
Ein Hinweis zur Erwartung: Ein Modell mit 33 Milliarden Parametern in Q8 verliert gegenüber BF16 messbar an Qualität, besonders bei Code. Wenn Sie die Benchmark-Zahlen nachstellen wollen, brauchen Sie die volle Präzision und damit die vier Karten.
Nanbeige4.3-33B ist der Lehrer für das kommende 3B-Modell
Die interessanteste Angabe steht fast nebenbei. Nanbeige beschreibt das 33B-Modell als Lehrer für Nanbeige4.3-3B, das noch erscheinen soll. Der Plan: Erst ein starker Agent mit 33 Milliarden Parametern, dann das Wissen in ein kleines Modell destillieren, das auf einem Laptop oder einer einzelnen Karte läuft.
Destillation heißt in diesem Fall, dass das kleine Modell aus den Ausgaben des großen lernt, statt selbst mit Belohnungssignalen trainiert zu werden. Das Verfahren ist billiger und liefert oft erstaunlich gute Ergebnisse bei klar umrissenen Aufgaben. Es überträgt aber auch die Fehler des Lehrers, und ein Lehrer, dessen Tabelle zwei vertauschte Zeilen enthält, ist ein Risiko, das man im Hinterkopf behalten sollte.
Für die offene Szene ist die Reihenfolge bemerkenswert. Normalerweise erscheint das kleine Modell zuerst, weil es schneller zu testen ist. Hier kommt die teure Variante zuerst, mit voller Lizenz und vollständigem Rezept. Das deutet darauf hin, dass Nanbeige den Weg über Prüfbarkeit sucht: Wer die Gewichte hat, kann nachrechnen.
Was Sie vor dem ersten Test einstellen sollten
Die Modellkarte nennt zwei Parametersätze, und die Unterscheidung ist wichtig. Für Agentenarbeit empfiehlt Nanbeige eine Temperatur von 1,0 mit Top-p 0,95 und bis zu 65.536 neuen Token. Für Chat und reines Denken liegt die Temperatur bei 0,6 mit bis zu 262.144 neuen Token.
Wer die Werte aus Gewohnheit auf 0,7 setzt, bekommt bei Agentenaufgaben schlechtere Ergebnisse. Das ist keine Feinheit, sondern der Unterschied zwischen einem Modell, das einen Plan durchhält, und einem, das nach der dritten Datei die Richtung wechselt.
Testen Sie zuerst eine Aufgabe aus Ihrem Alltag, bei der Sie das Ergebnis prüfen können: ein Skript, das einen Fehler behebt, ein Testlauf, der grün werden muss. Wenn das sitzt, lohnt der Blick auf die langen Läufe. Wenn nicht, sparen Sie sich die vier GPUs.
