Future AGI

O Future AGI pontua a saída do modelo de várias formas, para você escolher a que encaixa em cada checagem. As heurísticas como BLEU, ROUGE e regex são grátis e ilimitadas. Evals de código e os modelos juízes Turing hospedados cobram por execução em créditos de IA, enquanto usar a sua própria chave para o juiz não custa nada na plataforma. Numa única chamada, o kit roda um bom conjunto de métricas em texto, imagem e áudio, de checagens de fundamentação e alucinação até correção de ferramentas e vazamento de PII.

O SDK traceAI captura traces, spans e sessões de ponta a ponta, para você ver exatamente o que o app fez num pedido. Ele traz mais de 30 bibliotecas e 11 tipos de span, além de mais de 70 filtros e busca em texto completo para vasculhar execuções. Sessões, usuários finais e uma visão de grafo do agente ligam cada chamada às pessoas e fluxos por trás dela. Painéis personalizados e monitores de alerta com Slack e e-mail fecham a visão.

Os guardrails ficam na frente do modelo e triam o tráfego nos dois sentidos. Quinze checagens por regra, cobrindo PII, segredos e padrões próprios, são sempre grátis, e o modelo de moderação de ML (Gemma 3n) usa créditos de IA por checagem. Você pode rodar em modo bloqueio, monitoramento ou registro e definir limites de nota, e há 15 integrações externas como Lakera, Presidio e Llama Guard para quem já padronizou essas ferramentas.

A simulação deixa testar um agente contra pessoas, não contra prompts. Você escolhe entre mais de 28 personas prontas ou escreve a sua, e a plataforma roda conversas de texto ou voz com o seu agente em cenários de roteiro, conjunto de dados e grafo. As transcrições e a comparação de sessões mostram onde o agente perdeu o fio, e a geração automática de cenários pode rascunhar casos novos a partir de uma descrição. Minutos de voz e de texto são cobrados à parte.

O centro de comando é um gateway de IA que fica entre o seu app e os provedores de modelo. Ele roteia entre mais de 15 provedores como OpenAI, Anthropic, Gemini e Bedrock, com nove estratégias de balanceamento, failover automático e retry. O cache exato e semântico corta chamadas repetidas, e limites de uso, orçamentos e chaves virtuais seguram o gasto. O plano gratuito cobre 100 mil pedidos e 100 mil acertos de cache por mês.

Os conjuntos de dados ficam guardados para sempre em todos os planos e aceitam 14 tipos de coluna, com seis formas de criá-los, da entrada manual à importação de CSV, PDF e HuggingFace. Os experimentos deixam rodar um conjunto em vários modelos ou prompts e comparar os resultados num só lugar. A bancada de prompts traz versionamento, etiquetas e pastas, além de um playground visual de agentes e outro de prompts em que você troca entre mais de 100 modelos sem custo de plataforma.

O Falcon AI lê os seus traces e puxa os padrões que um humano deixaria passar. Ele agrupa os erros em quatro dimensões de pontuação, gera insights sobre o que segue dando errado e auto-etiqueta execuções para você filtrar por tipo de falha. A saída é um conjunto de recomendações e correções imediatas ligadas aos traces que as dispararam, o caminho mais curto de uma execução falha até a edição do prompt.