Keywords AI

Você envia cada requisição a um único endpoint e alcança modelos de todos os grandes provedores, trocando entre eles ao mudar uma palavra no nome do modelo. O cache embutido serve requisições repetidas na hora, e os orçamentos ou limites por chave cortam gastos descontrolados antes que cheguem à sua fatura.

Você lista os modelos para os quais recorrer, e o gateway passa para o próximo no momento em que um falha ou bate no limite. No painel da própria empresa, a cadeia de reserva se mantém perto de 99,99% de disponibilidade, contra um único provedor bem abaixo disso, o que importa quando uma queda deixaria seu app fora do ar.

Cada chamada ao modelo, uso de ferramenta, recuperação e turno do agente vira um trecho dentro de um mesmo rastro. Cada trecho carrega o modelo, a latência, o custo, a contagem de tokens e a entrada e a saída exatas, então você vê com precisão para onde vão tempo e dinheiro em vez de ler uma parede de linhas de registro.

Requisições, erros, custo, latência e tokens cabem em um painel, filtrados por modelo, chave ou usuário. Você acompanha qualquer métrica em qualquer janela e recebe um alerta por Slack, e-mail ou webhook no instante em que ela cruza um limite que você definiu. O rastreamento de erros agrupa falhas e mostra o trecho por trás de cada uma.

Um avaliador combina um juiz LLM, uma checagem de código determinística ou um revisor humano em uma única nota para qualquer saída. Os casos de teste podem sair direto dos registros de produção por filtro e taxa de amostragem, ou ser enviados como CSV, então cada caso é um que seus usuários de fato mandaram. Você também pode rodar o mesmo avaliador sobre tráfego ao vivo para pegar regressões em tempo real.

Os prompts vivem em um editor colaborativo com histórico de versões, publicação em um clique e gestão de lançamentos. Um playground de modelos e modelos Jinja deixam você testar mudanças antes de publicá-las, e prompts privados ficam fora da vista do time quando o espaço de trabalho é compartilhado.