NVIDIA öffnet Nemotron 3.5 Super VL für multimodale Agenten

NVIDIA hat ein offenes Modell freigegeben, das Text, Bilder, Dokumente und Videos in einem Durchlauf versteht und dabei Werkzeuge selbst aufruft. Nemotron 3.5 Super VL bringt 120 Milliarden Parameter mit, läuft aber auf einem einzigen Rechner.

Was NVIDIA mit Nemotron 3.5 Super VL offenlegt

NVIDIA hat am 15. Oktober Nemotron 3.5 Super VL veröffentlicht, ein multimodales Modell mit offenen Gewichten. Multimodal heißt, dass es nicht nur Text verarbeitet, sondern auch Bilder, Dokumente und Videos liest. Die Gewichte stehen auf Hugging Face, und der Konzern richtet sich damit an Firmen, die ihre Agenten selbst betreiben wollen.

Das Modell gehört zur Nemotron-Familie, die NVIDIA seit einiger Zeit als offene Alternative zu geschlossenen Modellen ausbaut. Die Idee dahinter: Wer sensible Daten verarbeitet oder eigene Abläufe automatisieren will, soll das Modell nicht bei einem fremden Anbieter einkaufen müssen.

Die Architektur von Nemotron 3.5 Super VL in einem Satz

Nemotron 3.5 Super VL hat 120 Milliarden Parameter. Pro Token werden davon nur zwölf Milliarden aktiv. Diese Spararchitektur heißt Mixture-of-Experts: Das Modell hält viele spezialisierte Teilnetze bereit und schaltet für jede Anfrage nur die passenden dazu. Die Rechnung wird dadurch billiger, ohne dass das Modell kleiner wird.

Der Kontext reicht über eine Million Token. Kontext ist alles, was ein Modell in einer Sitzung gleichzeitig vor sich hat. Eine Million Token fassen eine umfangreiche Dokumentensammlung, also etwa einen Stapel Verträge oder ein ganzes Handbuch, ohne vorheriges Aufteilen.

Eine Eigenheit sind die NVFP4-Gewichte. Das ist ein komprimiertes 4-Bit-Format, das den Speicherbedarf senkt und laut NVIDIA so klein ist, dass eine einzige DGX Spark, also NVIDIAs kleiner Desktop-KI-Rechner, das Modell aufnehmen kann.

Was Nemotron 3.5 Super VL für Agenten besonders macht

Der Name endet nicht zufällig auf VL, für Vision und Language. Das Modell verbindet mehrere Fähigkeiten in einem einzigen Gewichtssatz: Verstehen von Text, Bildern, Dokumenten und Videos, logisches Schlussfolgern in mehreren Schritten und den Aufruf von Werkzeugen.

Für einen Agenten ist das der Unterschied zwischen einer Vorführung und einem Werkzeug. Ein Support-Agent, der eine Rechnung als PDF, ein Foto vom beschädigten Produkt und eine Retourenrichtlinie als Tabelle bekommt, muss all das zusammen auswerten können, statt drei getrennte Modelle zu verketten. Genau dort scheitern viele Aufbauten im Alltag.

Neben Super VL hat NVIDIA mit Bolt zwei kleinere Modelle vorgestellt. Sie sind für den lokalen Einsatz gedacht, etwa auf einem Laptop oder einer Maschine in der Filiale. Die Arbeitsteilung ist klar: Super VL übernimmt die schweren Aufgaben, die Bolt-Modelle die schnellen Entscheidungen am Rand.

Durchsatz: NVIDIAs eigene Angabe zur fünffachen Leistung

NVIDIA zufolge erreicht Nemotron 3.5 Super VL im Intelligence Index von Artificial Analysis einen bis zu fünffach höheren Durchsatz als vergleichbare offene Modelle. Das würde bedeuten, dass dieselbe Hardware deutlich mehr Anfragen pro Sekunde bedient.

Diese Zahl kommt von NVIDIA selbst. Sie bezieht sich auf einen bestimmten Vergleich und einen bestimmten Index. Ein unabhängiges Labor hat den Durchsatz zum Zeitpunkt der Freigabe noch nicht durchgängig nachgemessen. Nehmen Sie den Faktor als Herstellerangabe und prüfen Sie ihn auf Ihrer eigenen Hardware, bevor Sie darauf planen.

Dasselbe gilt für die Genauigkeit bei multimodalen Agenten-Aufgaben. NVIDIA meldet führende Werte bei Anweisungen, Werkzeugnutzung und dem Lesen von Bildern. Auch hier fehlen unabhängige Messungen.

Warum NVIDIA offene Modelle veröffentlicht

NVIDIA verdient vor allem am Verkauf von Rechenhardware. Offene Modelle, die auf möglichst vielen Chips gut laufen, nützen dem Geschäft: Je mehr Firmen eigene Agenten betreiben, desto mehr Beschleuniger werden gebraucht. Ein Modell, das auf einer einzigen DGX Spark läuft, senkt zugleich die Einstiegshürde.

Die Nemotron Coalition, ein Verbund aus Partnern, liefert Daten und Rückmeldungen für die Weiterentwicklung. Der Ansatz ähnelt dem, was Meta und andere mit ihren offenen Modellen verfolgen: Kontrolle über die eigene Infrastruktur statt Abhängigkeit von einem geschlossenen Anbieter.

Für wen sich Nemotron 3.5 Super VL eignet

Lohnt sich der Wechsel? Wenn Sie einen Agenten bauen, der Dokumente, Screenshots und Videos in einen Ablauf einbeziehen soll, ist ein einziges multimodales Modell einfacher als eine Kette aus mehreren Werkzeugen. Wer die Datenhoheit behalten muss, kann das Modell auf eigener Hardware betreiben und die Gewichte selbst prüfen.

Der Durchsatz bleibt der Punkt, den Sie selbst messen sollten. Hält die fünffache Angabe auf Ihrer Hardware stand, sinken die Kosten pro Auftrag spürbar. Die Gewichte sind verfügbar, die Inferenz-Werkzeuge sind bereit. Der aussagekräftigste Test bleibt der mit Ihren eigenen Daten.