Ein Modell, das keine Sätze schreibt, sondern Wahrscheinlichkeiten liefert: Perplexity hat seine Entscheidungsmodelle in Version 1.3 veröffentlicht, mit offenen Gewichten und einem Preis, der pro Dokument fast nichts kostet. Für Support, Moderation und Sortierung ist das der interessantere Teil der Woche.
Was der Perplexity Decider anders macht als ein Chatmodell
Perplexity hat die Version am 12. November veröffentlicht, zusammen mit Flash v1.3, und beide lösen die Vorgänger v1.2 ab. Der Unterschied liegt im Ausgabeformat: Der Perplexity Decider gibt eine Wahrscheinlichkeitsverteilung über vorher festgelegte Antwortoptionen zurück, für Ja-Nein-Fragen, für Multiple Choice und für Bewertungen auf einer Skala.
Es wird also kein Text generiert. Das Modell liest und gewichtet, und am Ende steht eine Zahl je Option.
Wer bisher mit Sprachmodellen gearbeitet hat, muss umdenken. Ein Chatmodell antwortet auf die Frage „Ist das eine Rechnung?“ mit einem Satz, den man anschließend parst und dem man nicht ansieht, wie sicher es sich war. Der Decider antwortet mit einer Zahl zwischen null und eins für jede Option, und diese Zahl lässt sich direkt weiterverarbeiten, ohne dass jemand den Satz dahinter interpretieren muss.
Decision models: eine Antwort auf viele Fragen zum selben Text
Der praktische Gewinn entsteht, wenn mehrere Fragen denselben Text betreffen. Was in der Branche decision models heißt, ist im Kern ein Klassifikator mit dem Leseverständnis eines Sprachmodells, und er beantwortet alle Fragen zu einem Dokument in einem einzigen Durchlauf.
Ein Beispiel aus dem Alltag einer Support-Abteilung: Ist das eine Rechnungsfrage? Ist sie dringend? Muss ein Mensch antworten? Mit einem generativen Modell wären das drei Aufrufe, drei Latenzen und drei Rechnungen. Mit dem Decider ist es ein Aufruf, und die drei Antworten kommen gemeinsam zurück.
Für eine Routing-Schicht ist das der Unterschied zwischen einem Experiment und einem Betrieb. Wer 10.000 Tickets am Tag sortiert, merkt jeden gesparten Aufruf.
Decider v1.3 und Flash v1.3: was in den Gewichten steckt
Das große Modell hat 27 Milliarden Parameter und ist aus Qwen3.8-27B abgeleitet. Flash v1.3 hat 4 Milliarden und wurde aus dem großen Modell destilliert, auf Basis von Qwen3.5-4B. Die Gewichte liegen bei Hugging Face unter Apache 2.0, und beide Modelle laufen über die Decisions API von Perplexity sowie über OpenRouter.
Eine Kleinigkeit am Rand: Im Beitrag von Perplexity stehen 27 und 4 Milliarden, im Hugging-Face-Eintrag 26 und 5 Milliarden. Wer die Modelle herunterlädt, sollte mit den Angaben der Modellkarte rechnen und nicht mit der Pressemitteilung.
Warum der open-weight classifier stabiler antwortet
Die wichtigste Änderung in v1.3 betrifft die Aufmerksamkeit zwischen den Fragen. Bisher konnten sich die Fragen gegenseitig sehen, und das führte dazu, dass eine Antwort kippte, sobald eine andere Frage umformuliert wurde.
Jetzt sieht der Zustand alle Fragen, jede Frage sieht aber nur den Zustand und sich selbst. Die Fragen teilen sich also das Dokument, ohne sich gegenseitig zu beeinflussen, und das ist der Grund, warum Perplexity die Rate der Antwortkipper auf 0,27 Prozent senkt, gemessen über gestörte Labels und Formate.
Für den Betrieb zählt genau diese Zahl. Ein Klassifikator, der bei jedem Deployment anders antwortet, ist in einer Pipeline nicht zu gebrauchen, und ein open-weight classifier, den man selbst hostet, ändert sich sonst mit jedem Ticket, das man ihm zeigt.
Locate im Decider v1.3: was der Span-Extraktor aus einem Text zieht
Neu ist Locate. Es ergänzt das Modell um ein spezielles Token, einen Span-Kopf und einen LoRA-Adapter, mit dem sich Textstellen auslesen lassen: Namen, personenbezogene Angaben, Zitate. Zurückkommen Zeichenpositionen, also Anfang und Ende der Fundstelle im Original.
Damit lassen sich Aufgaben lösen, für die man bisher ein zweites Modell brauchte, etwa die Erkennung personenbezogener Daten vor dem Versand an einen Dienstleister.
Ein zweiter Modellaufruf entfällt.
Pro Anfrage sind bis zu 128 Fragen erlaubt, und Locate ist der Teil des Pakets, der mit 69,0 den niedrigsten Durchschnittswert erzielt.
Die Adapter bleiben bewusst unverschmolzen. Perplexity schreibt, das Zusammenführen habe gewöhnliche Entscheidungsanfragen verschlechtert, und dieser Satz ist die ehrlichste Zeile der ganzen Veröffentlichung.
Was der Perplexity Decider im Betrieb kostet
Der Preis ist der Grund, warum das Modell überhaupt in Pipelines passt. Über die API kostet v1.3 zwei Cent je Million Eingabetokens, Flash einen Cent, und für Ausgaben fällt nichts an. Perplexity rechnet das auf 26,47 Dollar je Million Produktionsanfragen herunter.
Selbst hosten ist möglich, aber nicht billig. Die Gewichte von v1.3 belegen rund 49 GiB in BF16, Flash kommt auf 8,5 GiB, und quantisierte Fassungen hat Perplexity nicht veröffentlicht. Wer keinen eigenen Beschleuniger hat, bleibt bei der API.
Ein Detail für die Planung: Anfragen über die API nehmen weniger als 256K Tokens auf, lokal liegt der Standard bei 32.768. Wer lange Dokumente in einem Rutsch klassifizieren will, muss also stückeln.
Wie belastbar die Zahlen von Perplexity sind
Alle Genauigkeiten in dieser Veröffentlichung stammen von Perplexity selbst. Das Unternehmen meldet 91,6 Prozent mittlere Genauigkeit über 63 Klassifikationsaufgaben, 6,54 Punkte über den eigenen Produktionsklassifikatoren. Im Vergleich mit Jev 1.14 von TypeSafe liegt v1.3 in allen sieben Domänen vorn, im Finanzbereich um bis zu 12,9 Punkte.
Bei Abruf und Umsortierung stehen 83,99 mittleres nDCG@10 über 72 Aufgaben. Das ist ein Maß dafür, wie gut die richtige Passage oben landet, und es ist der Wert, der für Suchpipelines zählt.
Zwei Einschränkungen gehören dazu. Flash liegt in Finanzen, Programmierung und Recht hinter Jev 1.14, und das steht in Perplexitys eigenen Tabellen. Unabhängig nachgemessen hat die Werte noch niemand, und Latent Space ordnete die Woche zwar als Moment der Entscheidungsmodelle ein, zählte Googles Gemini Decision 1 aber als eigenen Start und nicht als Teil dieser Veröffentlichung.
Wo der open-weight classifier in Deutschland hingehört
Die naheliegenden Aufgaben sind Sortierung, Moderation, Umsortierung und die Rolle des Richters in Bewertungspipelines. Perplexity nutzt die Familie selbst für Sicherheitsregeln, für die Überwachung von Trainingsläufen und für die Filterung von Seitenqualität. An einem Tag las das System eine Milliarde Tokens über 7.000 Agentensitzungen und fand 14 Regelkorrekturen, sechs davon waren binnen zwei Tagen ausgerollt.
Für deutsche Teams kommt die Aufsicht dazu. Der EU AI Act verlangt für viele Systeme eine Risikoeinordnung und Protokolle darüber, wie ein System zu seiner Ausgabe kommt, und ein Klassifikator, der diese Einordnung selbst vornehmen soll, ist ein heikler Baustein. Wer ihn einsetzt, sollte die Entscheidung dokumentieren und nicht nur das Ergebnis.
Der zweite Punkt ist der Datenschutz. Locate erkennt personenbezogene Angaben, was bei Kundenpost und Bewerberunterlagen hilft, aber selbst zu einem Verarbeitungsvorgang wird. Ein Modell, das auf einem eigenen Server im eigenen Rechenzentrum läuft, macht diese Frage leichter, und genau dafür sind die offenen Gewichte da. Ein Mittelständler kann Flash auf einer einzelnen GPU betreiben, für v1.3 braucht er deutlich mehr Speicher.






