Milliseconds.ai

O Milliseconds.ai cobre um conjunto pequeno de tipos de decisão em vez de um tipo geral. Você pode obter uma resposta de sim ou não, um rótulo de classificação com toda a distribuição de pontuações, uma avaliação em uma escala, uma resposta extraída do texto de origem, campos extraídos, entidades nomeadas ou um resultado de verificação. Cada forma encaixa em um trabalho que o software já faz em algum lugar, e a escolha entre elas quase sempre se resume a se o seu código precisa de um sinalizador, uma categoria, um número ou um conjunto de valores que possa guardar. Uma regra de encaminhamento precisa de um rótulo. Uma etapa de preencher formulário precisa de campos. Escolher a forma certa é a maior parte da configuração.

O modelo lê a entrada em uma única passagem adiante e devolve o resultado, em vez de escrever uma resposta palavra por palavra como um modelo de chat. É por isso que uma decisão volta em cerca de 90 milissegundos. Ainda existem chamadas mais longas. Responder leva de 0,3 a 0,9 segundo e extrair leva de 2,5 a 3,5 segundos. Para uma requisição que só precisa de um sinalizador ou de um rótulo, a velocidade se mantém.

Quando uma classificação está apertada, você vê. Uma chamada de classificação devolve a probabilidade de cada rótulo que você forneceu, não só o vencedor, junto com um valor de confiança. Se dois rótulos ficam perto de 0,34 cada, o seu código pode sinalizar o caso para revisão em vez de chutar. É uma diferença real em relação às APIs que entregam uma única resposta e escondem a dúvida. Não precisa adivinhar.

As mesmas capacidades aceitam texto ou imagens. Envie bytes, uma string base64 ou uma URL de dados, e o modelo lê direto. Os formatos compatíveis são JPEG, PNG e WebP, com limite de 5 MB cada. E o armazenamento de imagens? Não existe. O tratamento de imagens é cobrado como uma contagem fixa de tokens conforme o nível de detalhe que você escolher. URLs de imagens remotas não são aceitas, então o seu código tem de enviar o arquivo.

Há SDKs oficiais de TypeScript e Python, além de uma ferramenta de linha de comando chamada dm1. Os tipos de resultado seguem os rótulos que você define, então você pode ler o rótulo vencedor e a pontuação dele sem desmontar o HTTP cru. A CLI lê texto de um arquivo ou de um pipe, escreve JSON para outro programa e usa códigos de saída para condicionar um script. A instalação é um único comando de npm ou pip.

O preço de produção é de 0,04 $ por milhão de tokens de entrada, e os tokens de saída são gratuitos. Uma chave de teste dá 125 milhões de tokens de entrada grátis por mês, o suficiente para avaliar a API com dados reais antes de pagar qualquer coisa, e basta comprar pelo menos 10 $ de crédito para levar um projeto para chaves de produção. As imagens são cobradas a uma tarifa fixa por nível de detalhe, então você pode estimar o custo por mil imagens antes de se comprometer.