Milliseconds.ai

Milliseconds.ai deckt eine kleine Menge von Entscheidungstypen ab statt eines allgemeinen. Du kannst eine Ja/Nein-Antwort bekommen, ein Klassifizierungslabel mit voller Score-Verteilung, eine Bewertung auf einer Skala, eine aus dem Quelltext gezogene Antwort, extrahierte Felder, benannte Entitäten oder ein Verifikationsergebnis. Jede Form passt zu einer Aufgabe, die Software schon irgendwo erledigt, und die Wahl zwischen ihnen läuft meist darauf hinaus, ob dein Code ein Flag, eine Kategorie, eine Zahl oder eine Reihe von Werten braucht, die er speichern kann. Eine Routing-Regel braucht ein Label. Ein Schritt zum Ausfüllen eines Formulars braucht Felder. Die richtige Form zu wählen ist der Großteil der Einrichtung.

Das Modell liest die Eingabe in einem einzigen Vorwärtsdurchlauf und gibt das Ergebnis zurück, statt eine Antwort Wort für Wort zu schreiben wie ein Chat-Modell. Deshalb kommt eine Entscheidung in rund 90 Millisekunden zurück. Längere Aufrufe gibt es trotzdem. Antworten dauert etwa 0,3 bis 0,9 Sekunden, Extrahieren 2,5 bis 3,5 Sekunden. Für eine Anfrage, die nur ein Flag oder ein Label braucht, hält das Tempo.

Wenn eine Klassifizierung knapp ist, siehst du das. Ein Klassifizierungsaufruf gibt die Wahrscheinlichkeit für jedes von dir angegebene Label zurück, nicht nur für den Gewinner, zusammen mit einem Konfidenzwert. Liegen zwei Labels bei je etwa 0,34, kann dein Code den Fall zur Prüfung markieren, statt zu raten. Das ist ein echter Unterschied zu APIs, die dir eine einzige Antwort geben und den Zweifel verbergen. Kein Raten nötig.

Dieselben Fähigkeiten nehmen Text oder Bilder. Sende Bytes, einen Base64-String oder eine Daten-URL, und das Modell liest es direkt. Unterstützte Formate sind JPEG, PNG und WebP, begrenzt auf je 5 MB. Und die Bildspeicherung? Gibt es nicht. Die Bildverarbeitung wird als feste Token-Zahl abgerechnet, je nachdem, welche Detailstufe du wählst. Remote-Bild-URLs werden nicht akzeptiert, dein Code muss die Datei also selbst senden.

Es gibt offizielle TypeScript- und Python-SDKs, dazu ein Kommandozeilenwerkzeug namens dm1. Die Ergebnistypen folgen den Labels, die du festlegst, sodass du das gewinnende Label und seinen Score lesen kannst, ohne rohes HTTP zu zerlegen. Die CLI liest Text aus einer Datei oder einer Pipe, schreibt JSON für ein anderes Programm und nutzt Exit-Codes, um ein Skript zu steuern. Die Installation ist ein einziger npm- oder pip-Befehl.

Der Produktionspreis liegt bei 0,04 $ pro Million Eingabe-Token, und Ausgabe-Token sind kostenlos. Ein Testsclüssel gibt dir jeden Monat 125 Millionen kostenlose Eingabe-Token, genug, um die API mit echten Daten zu testen, bevor du etwas zahlst, und ein Guthabenkauf von mindestens 10 $ genügt, um ein Projekt auf Produktionsschlüssel umzustellen. Bilder werden zu einem festen Satz je Detailstufe abgerechnet, sodass du die Kosten pro tausend Bilder schätzen kannst, bevor du dich festlegst.