Milliseconds.ai

Milliseconds.ai couvre un petit ensemble de types de décision plutôt qu'un seul type général. Vous pouvez obtenir une réponse oui/non, une étiquette de classification avec toute la distribution des scores, une note sur une échelle, une réponse tirée du texte source, des champs extraits, des entités nommées ou un résultat de vérification. Chaque forme correspond à un travail que le logiciel fait déjà quelque part, et le choix entre elles se résume le plus souvent à savoir si votre code a besoin d'un indicateur, d'une catégorie, d'un nombre ou d'un ensemble de valeurs qu'il peut stocker. Une règle d'orientation a besoin d'une étiquette. Une étape de remplissage de formulaire a besoin de champs. Choisir la bonne forme représente l'essentiel de la configuration.

Le modèle lit l'entrée en une seule passe avant et renvoie le résultat, au lieu d'écrire une réponse mot par mot comme un modèle de chat. C'est pourquoi une décision revient en environ 90 millisecondes. Il existe encore des appels plus longs. Répondre prend environ 0,3 à 0,9 seconde et extraire prend 2,5 à 3,5 secondes. Pour une requête qui n'a besoin que d'un indicateur ou d'une étiquette, la vitesse tient.

Quand une classification est serrée, vous le voyez. Un appel de classification renvoie la probabilité de chaque étiquette que vous avez fournie, pas seulement la gagnante, avec une valeur de confiance. Si deux étiquettes se situent près de 0,34 chacune, votre code peut signaler le cas pour relecture au lieu de deviner. C'est une vraie différence avec les API qui vous donnent une seule réponse et cachent le doute. Pas besoin de deviner.

Les mêmes capacités acceptent du texte ou des images. Envoyez des octets, une chaîne base64 ou une URL de données, et le modèle la lit directement. Les formats pris en charge sont JPEG, PNG et WebP, limités à 5 Mo chacun. Et le stockage des images ? Il n'y en a pas. Le traitement des images est facturé selon un nombre fixe de tokens en fonction du niveau de détail que vous choisissez. Les URL d'images distantes ne sont pas acceptées, donc votre code doit envoyer le fichier lui-même.

Il existe des SDK officiels TypeScript et Python, plus un outil en ligne de commande appelé dm1. Les types de résultat suivent les étiquettes que vous définissez, donc vous pouvez lire l'étiquette gagnante et son score sans décortiquer le HTTP brut. La CLI lit du texte depuis un fichier ou un pipe, écrit du JSON pour un autre programme et utilise les codes de sortie pour conditionner un script. L'installation se fait en une seule commande npm ou pip.

Le tarif de production est de 0,04 $ par million de tokens d'entrée, et les tokens de sortie sont gratuits. Une clé de test vous donne 125 millions de tokens d'entrée gratuits chaque mois, de quoi évaluer l'API sur des données réelles avant de payer quoi que ce soit, et un achat de crédit d'au moins 10 $ suffit pour basculer un projet vers des clés de production. Les images sont facturées à un tarif fixe par niveau de détail, donc vous pouvez estimer le coût pour mille images avant de vous engager.