Auriko
Auriko · Programação
Auriko é um gateway LLM e uma camada de roteamento de modelos que dá ao seu aplicativo uma única API compatível com OpenAI para acessar modelos da OpenAI, Anthropic, Google, xAI, DeepSeek e uma dúzia de outros provedores. Ele funciona como plataforma completa de inferência LLM: em vez de fixar um provedor por modelo, você envia uma requisição e o Auriko escolhe uma rota com base em custo, latência, throughput ou suas próprias regras, e então faz failover automaticamente quando algo quebra. A otimização de custos e o roteamento de failover são a proposta central, voltada a equipes que rodam cargas de LLM em produção e se importam com gasto e disponibilidade.
Sobre Auriko
O que é o Auriko
O Auriko fica entre o seu aplicativo e os provedores de modelos. Você aponta o SDK da OpenAI para o endpoint dele, troca a URL base e mantém o resto do código. A plataforma cuida da seleção de provedor, gestão de chaves, tentativas novamente e observabilidade, cobrando zero de marcação sobre o que os provedores cobram.
O motivo de sua existência é simples: os preços e o desempenho dos provedores mudam o tempo todo, e a mecânica de cache de prompts torna os preços de vitrine enganosos. O Auriko modela como a sua carga de trabalho específica interage com o cache e os limites de taxa de cada provedor, e então roteia cada requisição para a opção elegível mais barata.
O detalhe é que esta é uma ferramenta para desenvolvedores. Não há construtor de arrastar e soltar. O valor aparece principalmente quando o seu tráfego é grande o bastante para que as diferenças de custo e latência por requisição realmente importem entre provedores.
Como começar
- Cadastre-se no painel do Auriko e pegue uma chave de API; o plano gratuito começa sem cartão de crédito.
- Aponte um cliente OpenAI existente para o endpoint do Auriko trocando o
base_urlparahttps://api.auriko.ai/v1e configurando a sua chave do Auriko. - Escolha uma estratégia de roteamento, seja um foco integrado como custo ou latência, seja pesos personalizados com restrições como um tempo máximo até o primeiro token.
- Opcionalmente adicione suas próprias chaves de provedor (BYOK) para que as requisições rodem nas suas contas junto com as do Auriko.
- Acompanhe custo e latência por rota no painel de análise e ajuste a estratégia conforme sua carga de trabalho se estabiliza.
Informações do produto
Uma visão rápida dos preços, das plataformas compatíveis e do desempenho de Auriko.
Ideal para
Os usuários, tarefas e cenários em que esta ferramenta se encaixa melhor.
Usuários
- Engenheiros de backend e de plataforma
- Equipes com tráfego LLM em produção
- Startups atentas ao custo
- Equipes com vários provedores
Tarefas
- Centralizar o acesso a modelos
- Cortar o gasto com inferência
- Melhorar a disponibilidade
- Gerenciar chaves em escala
- Acompanhar o uso
Cenários
- Lançar um chatbot
- Enfrentar picos de tráfego
- Orçar um recurso
- Avaliar provedores
Principais recursos
API unificada compatível com OpenAI
O Auriko expõe um endpoint que funciona com o cliente padrão da OpenAI, então migrar costuma ser questão de mudar a URL base e a chave. Recursos específicos de cada provedor continuam acessíveis por campos extras na requisição, o que significa que você não precisa abrir mão de capacidades para ter a interface unificada. Para equipes que já usam o SDK da OpenAI, a migração se mede em minutos, não em sprints.
Roteamento de custo ciente do cache
Os preços de vitrine escondem muita coisa. O cache de prompts é onde isso aparece. O Auriko modela como a sua carga de trabalho interage com as regras de cache de cada provedor e roteia para o provedor elegível de menor custo por requisição. Isso importa mais em cargas com contexto repetido, onde acertos de cache podem mover o custo efetivo muito mais do que a tarifa de etiqueta. É o recurso que separa o Auriko de um simples balanceador de carga.
Estratégias de roteamento e objetivos personalizados
Você pode mirar em custo, tempo até o primeiro token, throughput ou uma mistura equilibrada, e definir restrições como um mínimo de tokens por segundo no P95 ou um teto de custo de entrada. Pesos personalizados permitem definir seu próprio objetivo quando nenhum dos predefinidos serve. As requisições também podem ser restritas a provedores com retenção zero de dados ou aos que retornam saída estruturada.
Failover automático e inteligência de capacidade
Cada requisição pode carregar redundância, então um provedor degradado ou uma chave esgotada não vira um erro visível ao usuário. É uma diferença enorme. O Auriko rastreia a capacidade entre provedores e chaves, e pode recorrer à sua reserva global de capacidade para picos sob demanda. Na prática, é a diferença entre uma queda e um simples soluço.
Orquestração de chaves
Traga suas próprias chaves, use as chaves de plataforma do Auriko ou rode as duas ao mesmo tempo. O motor de orquestração trabalha para maximizar a utilização das chaves, o que pode esticar limites de taxa que você já paga em vez de comprar mais folga. Os limites variam por modo, e o BYOK costuma obter os tetos mais altos.
Observabilidade e controle de orçamento
O painel mostra custo e latência detalhados por rota, junto com um playground para testes rápidos. Limites de orçamento e alertas podem ser definidos no nível do espaço de trabalho ou de uma chave de API individual, então um único trabalho descontrolado não vai drenar a conta em silêncio.
Implantação global
As requisições passam por uma rede de borda distribuída globalmente e ajustada para latência, o que mantém os tempos de resposta estáveis independentemente de onde estejam seus usuários ou seus provedores. Do contrário, você teria que montar isso sozinho.
Prós e contras
Prós
- Zero marcação sobre o preço do provedor, então você paga as tarifas do modelo subjacente mais a taxa fixa do plano.
- Uma única integração compatível com OpenAI cobre uma dúzia de provedores e dezenas de modelos.
- O roteamento ciente do cache trata de verdadeiros motores de custo que uma simples comparação de preços deixa passar.
- O failover automático e a consciência de capacidade reduzem a chance de quedas de provedor chegarem aos usuários.
- O plano gratuito é realmente utilizável, com BYOK, estratégias de roteamento e análise incluídos.
Contras
- Não há interface sem código, então é uma má escolha se ninguém na sua equipe escreve código.
- Os benefícios de custo dependem do volume da carga de trabalho; usuários leves não notarão muita diferença.
- Alguns recursos, como roteamento determinístico e assentos de equipe, ficam atrás do plano Pro de US$ 89/mês.
- Por ser uma plataforma mais nova, tem um histórico mais curto do que gateways consolidados.
Perguntas frequentes
É um gateway LLM que fica entre o seu aplicativo e os provedores de modelos. Você chama uma única API compatível com OpenAI, e o Auriko decide qual provedor atende cada requisição com base em custo, latência, throughput ou suas próprias regras de roteamento.
Conteúdo relacionado
Explore ferramentas, skills e artigos relacionados a Auriko.
Alternativas a Auriko
Base Code
Base44 (Wix) · Programação · ProdutividadeO Base Code é um ambiente de desenvolvimento em nuvem compartilhado da Base44. O time descreve mudanças em um repositório do GitHub pelo chat, confere tudo na prévia e envia o resultado como pull request.
Google EmbeddingGemma 2
Google DeepMind · Escrita · Imagem · ProgramaçãoGoogle EmbeddingGemma 2 é um modelo aberto de 740 milhões de parâmetros que transforma texto, código, imagens, áudio e quadros de vídeo em vetores de um único espaço de 768 dimensões, rodando em celulares e notebooks.
GitGlow
GitGlow · Programação · ProdutividadeO GitGlow é um cliente Git de desktop que coloca seu código e as mudanças dos seus agentes de IA na mesma revisão, para você saber o que vai sair da máquina antes de publicar.