Modelle

DeepSeek V4.1 Flash meldet Spitzenwerte, unabhängige Tests sehen das Modell deutlich tiefer

Ein offenes Modell mit 1-Million-Token-Kontext meldet Zahlen, die nach Spitzenklasse klingen. Die unabhängigen Auswertungen liegen tiefer, und der Abstand sagt mehr über die Messmethode als über das Modell.

Anna WeberAnna Weber
Beliebtheit: 1,240
Terminalfenster mit Score-Balken neben einem steigenden Balkendiagramm in Blau und Amber

Dek: Ein offenes Modell mit 1-Million-Token-Kontext meldet Zahlen, die nach Spitzenklasse klingen. Die unabhängigen Auswertungen liegen tiefer, und der Abstand sagt mehr über die Messmethode als über das Modell.

Was der 1017-Build von DeepSeek V4.1 Flash ist

DeepSeek V4.1 Flash ist ein offenes Reasoning-Modell mit einem Kontextfenster von 1.048.576 Token. Der Build mit der Kennung 1017 ist die aktuelle Flash-Version, ältere V4-Flash-Builds sind damit überholt.

Die Architektur ist ein Mixture of Experts, also ein Modell, bei dem pro Anfrage nur ein Teil der Gewichte aktiv wird. Laut Modellkarte und Unsloths Anleitung kommt ein Rückgrat mit 552 Milliarden Parametern mit einem Engram-Satz von 196 Milliarden dazu.

Engram ist der interessante Teil. Es arbeitet mit n-Gramm-Nachschlagen von bis zu vier Token, und weil diese Tabelle nicht im GPU-Speicher liegen muss, lässt sich ein großer Teil des Modells auslagern. DSpark ergänzt spekulative Dekodierung, also das Vorabraten mehrerer Token, die das Modell danach prüft.

DeepSeek benchmarks: 90,6 % im Modellkarte, 74,5 % bei Vals AI

Die Zahlen aus dem Modellkarte lesen sich wie die eines Frontier-Modells. Auf Terminal-Bench 2.1, einem Test für mehrstufige Aufgaben in der Kommandozeile, stehen 90,6 %. Auf Terminal-Bench 4.0 sind es 42,30 %, auf DeepSWE 77,0 %, auf NL2Repo 68,2 %, auf AutomationBench 60,5 %.

Dazu kommen 35,4 % bei Agents' Last Exam, 88,1 % bei CyberGym und 90,9 % bei GPQA-Diamond. HLE liegt bei 42,6 %, Codeforces bei 3471 Punkten, FrontierMath v2 in Tier 4 bei 26,8 %.

Das sind selbst berichtete Werte. Vals AI hat dasselbe Modell auf Terminal-Bench 2.1 gemessen und kommt auf 74,5 %. Der Unterschied beträgt mehr als 16 Punkte, und er verschwindet nicht dadurch, dass man beide Zahlen nebeneinander schreibt.

Woran es liegt, lässt sich von außen nicht klären. Eine andere Testumgebung, andere Voreinstellungen für das Nachdenken oder eine andere Anzahl von Versuchen pro Aufgabe verschieben solche Werte deutlich. Wer die 90,6 % zitiert, sollte die 74,5 % mitzitieren.

Warum BenchLM dem DeepSeek-Modell nur 65,41 von 100 gibt

BenchLM führt das Modell mit 65,41 von 100 Punkten und Rang 31 von 1.016 gelisteten Modellen. Das klingt nach Mittelfeld, ist aber mit einer Einschränkung versehen, die der Anbieter selbst nennt: Ausgewertet sind 53 von 759 Benchmarks.

Ein Durchschnitt aus einem Bruchteil der Tests ist keine Gesamtnote. BenchLM beschreibt den Wert selbst als konservativ, weil fehlende Benchmarks nicht als null, sondern gar nicht eingehen. Rang 31 ist damit eine Momentaufnahme mit dünner Datenbasis, keine Einordnung gegen GPT, Claude oder Gemini. Was sagt ein Rang, der auf einem Siebtel der verfügbaren Tests beruht?

Warum 96,5 % Halluzinationsrate das Bild von DeepSeek V4.1 Flash trübt

Artificial Analysis kommt auf einen Intelligence Index von 39,5 % und eine Omniscience-Halluzinationsrate von 96,5 %, bei einem Omniscience Index von minus 5,3 %.

Die Rate beschreibt, wie oft das Modell bei Fragen, deren Antwort es nicht kennen kann, trotzdem eine Antwort gibt, statt sie zu verweigern. 96,5 % heißt: Fast immer. Für Coding-Aufgaben ist das weniger relevant, weil dort ein Test läuft und die Antwort prüft. Für jede Anwendung, in der jemand dem Text glaubt, ist es der wichtigste Wert im ganzen Datenblatt.

DeepSeek local inference: 128 GB RAM und ein Quant von rund 500 GB

Lokal heißt hier nicht Laptop. Unsloths Anleitung nennt 128 GB RAM oder mehr, mit SSD-Offloading auch 64 GB, dann aber langsamer. Das Quant UD-Q8_K_XL ist 508,4 GB groß, UD-Q4_K_XL bringt es auf 500,7 GB.

Für DeepSeek local inference braucht es also einen Server, nicht eine Workstation unter dem Schreibtisch. Die Datei allein füllt eine Platte. Wer aus Datenschutzgründen nicht in die Cloud will, findet hier ein Modell, das sich im eigenen Rechenzentrum betreiben lässt, aber nicht im Nebenraum.

Unsloth gibt für seine V3.1-Quantisierung 10 bis 15 % höhere Genauigkeit und 30 % weniger Token-Verbrauch an als andere Quants gleicher Größe, dazu rund dreimal schnellere Inferenz als andere Repositories. Das sind Angaben des Anbieters, nicht unabhängig geprüft.

Beim Betrieb ist Nachdenken standardmäßig an, mit reasoning_effort auf 75 von 100. Die Vorlage ordnet niedrig 50, mittel 62, hoch 75 und maximal 100 zu. Für lange Ausgaben empfiehlt DeepSeek mindestens 256K Ausgabe-Token, was den Speicherbedarf während der Antwort erhöht.

Was DeepSeek pricing strukturell bedeutet

Über konkrete Preise pro Million Token sagt diese Auswertung nichts, und Zahlen dazu gehören in die Live-Tracker, nicht in einen Artikel von gestern. Die Struktur lässt sich trotzdem beschreiben.

In der API wird der Modellname deepseek-flash inzwischen von DeepSeek-V4.1-Flash-1017 bedient. Ältere Namen wie deepseek-v4-flash werden weiter akzeptiert und zum Flash-Preis abgerechnet. Der Name bleibt, das Modell wechselt. Wer eine Integration nicht anfassen will, bekommt also die neue Version, ohne den Eintrag zu ändern.

Damit ist DeepSeek pricing eine Frage der Positionierung: ein Modell, das über den Preis und über offene Gewichte konkurriert, nicht über den Spitzenplatz in Ranglisten.

Was Engram bei DeepSeek V4.1 Flash anders macht

Der Engram-Ansatz ist der Grund, warum die Parameterzahl nicht eins zu eins in Hardwareanforderungen übersetzt werden muss. Die n-Gramm-Tabelle lässt sich auslagern, und genau das macht ein Modell dieser Größe überhaupt betreibbar.

Der Preis dafür ist Komplexität. Wer das Modell selbst hostet, muss mit zwei Speicherebenen umgehen, mit spekulativer Dekodierung und mit Einstellungen, die das Verhalten stärker verändern als bei einem kleineren Modell.

Wie man den 1017-Build für die eigenen Aufgaben prüft

Der sinnvolle Test ist der eigene: Ein Benchmark, der Kommandozeilenaufgaben misst, sagt wenig über das Refactoring einer Java-Codebasis oder über eine Migration, die niemand dokumentiert hat.

Wer den Build einsetzt, sollte zehn Aufgaben aus dem eigenen Alltag nehmen, sie mit denselben Einstellungen wie im Betrieb laufen lassen und die Ergebnisse mit dem bisherigen Modell vergleichen. Testumgebung und Einstellungen bewegen diese Zahlen stärker als der Generationswechsel, und das gilt in beide Richtungen: nach oben wie nach unten.

Diesen Artikel teilen

Quellen

Ähnliche KI-News

Terminalfenster mit Codezeilen neben dem Umriss eines Schildes
Modelle

GPT-6 Cyber verweigert weniger: OpenAI öffnet das Modell nur über Daybreak Red

OpenAI hat ein Sicherheitsmodell gebaut, das bei autorisierten Aufgaben kaum noch verweigert. Der Zugang läuft über ein Programm mit Identitätsprüfung, und die Fortschritte in den Benchmarks sind kleiner, als der Name vermuten lässt.

Beliebtheit: 1,310
Filmstreifen mit Play-Symbol über einer fallenden Preislinie
Modelle

Gemini Omni 1.2 Flash ist für alle da: 15 Sekunden Clip, 30 Prozent weniger Preis

Google verlängert die Clips seines Videomodells und senkt den Preis um knapp ein Drittel. Interessant ist weniger die Zahl selbst als der Arbeitsablauf, den sie möglich macht.

Beliebtheit: 1,250
Konzentrische Gedächtnisringe um einen hellen Kern in Violett und Amber
Modelle

Meta nutzt Muse Wonder als Trainingslager für die Modelle, die alle bekommen

Meta hat sein stärkstes Modell nicht als Produkt ausgeliefert, sondern als Werkzeug benutzt: Muse Wonder trainierte die kleineren Varianten, die jetzt in Muse und Meta AI ankommen. Für Nutzer ändert sich vor allem, woran der Assistent sich erinnert.

Beliebtheit: 1,339
Umriss eines Browserfensters mit leuchtender Audiowellenform auf Türkisverlauf
Modelle

Underdog packt eine Stimme in 31,7 MB

Underdog hat am 5. November ein Sprachmodell mit 31,7 MB vorgestellt. Es läuft im Browser, ohne Server, und die Demo dazu ist ein kleines Spiel.

Beliebtheit: 1,040