Modelle

Perplexity Decider v1.3: offene Gewichte für Entscheidungen

Ein Modell, das keine Sätze schreibt, sondern Wahrscheinlichkeiten liefert: Perplexity hat seine Entscheidungsmodelle in Version 1.3 veröffentlicht, mit offenen Gewichten und einem Preis, der pro Dokument fast nichts kostet. Für Support, Moderation und Sortierung ist das der interessantere Teil der Woche.

Anna WeberAnna Weber
Beliebtheit: 1,150
Ein türkises Wahrscheinlichkeitshistogramm auf dunklem Grund neben dem Schriftzug Decider v1.3

Ein Modell, das keine Sätze schreibt, sondern Wahrscheinlichkeiten liefert: Perplexity hat seine Entscheidungsmodelle in Version 1.3 veröffentlicht, mit offenen Gewichten und einem Preis, der pro Dokument fast nichts kostet. Für Support, Moderation und Sortierung ist das der interessantere Teil der Woche.

Was der Perplexity Decider anders macht als ein Chatmodell

Perplexity hat die Version am 12. November veröffentlicht, zusammen mit Flash v1.3, und beide lösen die Vorgänger v1.2 ab. Der Unterschied liegt im Ausgabeformat: Der Perplexity Decider gibt eine Wahrscheinlichkeitsverteilung über vorher festgelegte Antwortoptionen zurück, für Ja-Nein-Fragen, für Multiple Choice und für Bewertungen auf einer Skala.

Es wird also kein Text generiert. Das Modell liest und gewichtet, und am Ende steht eine Zahl je Option.

Wer bisher mit Sprachmodellen gearbeitet hat, muss umdenken. Ein Chatmodell antwortet auf die Frage „Ist das eine Rechnung?“ mit einem Satz, den man anschließend parst und dem man nicht ansieht, wie sicher es sich war. Der Decider antwortet mit einer Zahl zwischen null und eins für jede Option, und diese Zahl lässt sich direkt weiterverarbeiten, ohne dass jemand den Satz dahinter interpretieren muss.

Decision models: eine Antwort auf viele Fragen zum selben Text

Der praktische Gewinn entsteht, wenn mehrere Fragen denselben Text betreffen. Was in der Branche decision models heißt, ist im Kern ein Klassifikator mit dem Leseverständnis eines Sprachmodells, und er beantwortet alle Fragen zu einem Dokument in einem einzigen Durchlauf.

Ein Beispiel aus dem Alltag einer Support-Abteilung: Ist das eine Rechnungsfrage? Ist sie dringend? Muss ein Mensch antworten? Mit einem generativen Modell wären das drei Aufrufe, drei Latenzen und drei Rechnungen. Mit dem Decider ist es ein Aufruf, und die drei Antworten kommen gemeinsam zurück.

Für eine Routing-Schicht ist das der Unterschied zwischen einem Experiment und einem Betrieb. Wer 10.000 Tickets am Tag sortiert, merkt jeden gesparten Aufruf.

Decider v1.3 und Flash v1.3: was in den Gewichten steckt

Das große Modell hat 27 Milliarden Parameter und ist aus Qwen3.8-27B abgeleitet. Flash v1.3 hat 4 Milliarden und wurde aus dem großen Modell destilliert, auf Basis von Qwen3.5-4B. Die Gewichte liegen bei Hugging Face unter Apache 2.0, und beide Modelle laufen über die Decisions API von Perplexity sowie über OpenRouter.

Eine Kleinigkeit am Rand: Im Beitrag von Perplexity stehen 27 und 4 Milliarden, im Hugging-Face-Eintrag 26 und 5 Milliarden. Wer die Modelle herunterlädt, sollte mit den Angaben der Modellkarte rechnen und nicht mit der Pressemitteilung.

Warum der open-weight classifier stabiler antwortet

Die wichtigste Änderung in v1.3 betrifft die Aufmerksamkeit zwischen den Fragen. Bisher konnten sich die Fragen gegenseitig sehen, und das führte dazu, dass eine Antwort kippte, sobald eine andere Frage umformuliert wurde.

Jetzt sieht der Zustand alle Fragen, jede Frage sieht aber nur den Zustand und sich selbst. Die Fragen teilen sich also das Dokument, ohne sich gegenseitig zu beeinflussen, und das ist der Grund, warum Perplexity die Rate der Antwortkipper auf 0,27 Prozent senkt, gemessen über gestörte Labels und Formate.

Für den Betrieb zählt genau diese Zahl. Ein Klassifikator, der bei jedem Deployment anders antwortet, ist in einer Pipeline nicht zu gebrauchen, und ein open-weight classifier, den man selbst hostet, ändert sich sonst mit jedem Ticket, das man ihm zeigt.

Locate im Decider v1.3: was der Span-Extraktor aus einem Text zieht

Neu ist Locate. Es ergänzt das Modell um ein spezielles Token, einen Span-Kopf und einen LoRA-Adapter, mit dem sich Textstellen auslesen lassen: Namen, personenbezogene Angaben, Zitate. Zurückkommen Zeichenpositionen, also Anfang und Ende der Fundstelle im Original.

Damit lassen sich Aufgaben lösen, für die man bisher ein zweites Modell brauchte, etwa die Erkennung personenbezogener Daten vor dem Versand an einen Dienstleister.

Ein zweiter Modellaufruf entfällt.

Pro Anfrage sind bis zu 128 Fragen erlaubt, und Locate ist der Teil des Pakets, der mit 69,0 den niedrigsten Durchschnittswert erzielt.

Die Adapter bleiben bewusst unverschmolzen. Perplexity schreibt, das Zusammenführen habe gewöhnliche Entscheidungsanfragen verschlechtert, und dieser Satz ist die ehrlichste Zeile der ganzen Veröffentlichung.

Was der Perplexity Decider im Betrieb kostet

Der Preis ist der Grund, warum das Modell überhaupt in Pipelines passt. Über die API kostet v1.3 zwei Cent je Million Eingabetokens, Flash einen Cent, und für Ausgaben fällt nichts an. Perplexity rechnet das auf 26,47 Dollar je Million Produktionsanfragen herunter.

Selbst hosten ist möglich, aber nicht billig. Die Gewichte von v1.3 belegen rund 49 GiB in BF16, Flash kommt auf 8,5 GiB, und quantisierte Fassungen hat Perplexity nicht veröffentlicht. Wer keinen eigenen Beschleuniger hat, bleibt bei der API.

Ein Detail für die Planung: Anfragen über die API nehmen weniger als 256K Tokens auf, lokal liegt der Standard bei 32.768. Wer lange Dokumente in einem Rutsch klassifizieren will, muss also stückeln.

Wie belastbar die Zahlen von Perplexity sind

Alle Genauigkeiten in dieser Veröffentlichung stammen von Perplexity selbst. Das Unternehmen meldet 91,6 Prozent mittlere Genauigkeit über 63 Klassifikationsaufgaben, 6,54 Punkte über den eigenen Produktionsklassifikatoren. Im Vergleich mit Jev 1.14 von TypeSafe liegt v1.3 in allen sieben Domänen vorn, im Finanzbereich um bis zu 12,9 Punkte.

Bei Abruf und Umsortierung stehen 83,99 mittleres nDCG@10 über 72 Aufgaben. Das ist ein Maß dafür, wie gut die richtige Passage oben landet, und es ist der Wert, der für Suchpipelines zählt.

Zwei Einschränkungen gehören dazu. Flash liegt in Finanzen, Programmierung und Recht hinter Jev 1.14, und das steht in Perplexitys eigenen Tabellen. Unabhängig nachgemessen hat die Werte noch niemand, und Latent Space ordnete die Woche zwar als Moment der Entscheidungsmodelle ein, zählte Googles Gemini Decision 1 aber als eigenen Start und nicht als Teil dieser Veröffentlichung.

Wo der open-weight classifier in Deutschland hingehört

Die naheliegenden Aufgaben sind Sortierung, Moderation, Umsortierung und die Rolle des Richters in Bewertungspipelines. Perplexity nutzt die Familie selbst für Sicherheitsregeln, für die Überwachung von Trainingsläufen und für die Filterung von Seitenqualität. An einem Tag las das System eine Milliarde Tokens über 7.000 Agentensitzungen und fand 14 Regelkorrekturen, sechs davon waren binnen zwei Tagen ausgerollt.

Für deutsche Teams kommt die Aufsicht dazu. Der EU AI Act verlangt für viele Systeme eine Risikoeinordnung und Protokolle darüber, wie ein System zu seiner Ausgabe kommt, und ein Klassifikator, der diese Einordnung selbst vornehmen soll, ist ein heikler Baustein. Wer ihn einsetzt, sollte die Entscheidung dokumentieren und nicht nur das Ergebnis.

Der zweite Punkt ist der Datenschutz. Locate erkennt personenbezogene Angaben, was bei Kundenpost und Bewerberunterlagen hilft, aber selbst zu einem Verarbeitungsvorgang wird. Ein Modell, das auf einem eigenen Server im eigenen Rechenzentrum läuft, macht diese Frage leichter, und genau dafür sind die offenen Gewichte da. Ein Mittelständler kann Flash auf einer einzelnen GPU betreiben, für v1.3 braucht er deutlich mehr Speicher.

Diesen Artikel teilen

Quellen

Ähnliche KI-News

Ein Terminalfenster mit einer steigenden Belohnungskurve und einem 27B-Schild daneben
Modelle

DaisyRose-27B verdoppelt den Terminal-Bench-Wert von Qwen3.8-27B in 18 Tagen

RadixArk hat 18 Tage und rund 1.200 Aufgaben in ein offenes Modell gesteckt. Danach war es auf jedem Benchmark der eigenen Tabelle besser als die Vorlage.

Beliebtheit: 1,330
Ein Laptop-Umriss mit drei gestapelten Schichtfolien, die in einem Pfeilkreislauf durch das Gerät laufen
Modelle

Inkling 2 Mini rechnet dreimal durch dieselben Schichten und passt auf einen Laptop

Thinking Machines Lab lässt die zwölf mittleren Schichten seines neuen Modells dreimal pro Token laufen. Das ist der ganze Trick, und er entscheidet, ob 26,4 Milliarden Parameter auf einen Laptop passen.

Beliebtheit: 1,710
Eine lange türkisfarbene Audiowellenform mit einem einzelnen orangen Akzentbalken auf dunklem Feld
Modelle

Rumble-2-Flash von Reson8: 60-mal kleiner und fast gleich gut am Telefon

Reson8 hat am 18. November 2026 ein Spracherkennungsmodell veröffentlicht, das 60-mal kleiner ist als der Vergleichsriese von Nvidia. Auf echten Kundenanrufen trennen die beiden 0,08 Prozentpunkte.

Beliebtheit: 560
Drei neonfarbene Ringe um einen kleinen leuchtenden Kern auf tiefblauem Feld
Modelle

Gemini 4 Neon ersetzt Argon: 3 Dollar je Million Tokens und zwei Namen weniger

Google hat am 18. November 2026 Gemini 4 Neon vorgestellt. Die spürbarste Änderung betrifft nicht die Benchmark-Tabelle, sondern die Auswahlliste in der App, in der zwei bekannte Modellnamen fehlen.

Beliebtheit: 1,500