Awan LLM
Awan LLM · Programação · Outros
Awan LLM é uma API por assinatura para modelos Llama que cobra mensalidade fixa em vez de cobrar por token, com endpoint no padrão OpenAI e planos de graça até US$ 80/mês.
Sobre Awan LLM
About
O que é o Awan LLM
Awan LLM é uma API de inferência que aluga acesso a modelos Llama abertos por mês, não por token. Você cria a conta, gera uma chave e envia requisições para um endpoint de chat completions com o mesmo formato do OpenAI. A fatura não muda se você mandar mil tokens ou cem milhões.
O hardware é da própria empresa. A Awan afirma que tem GPUs e datacenters próprios, faz overclock nas máquinas e distribui a carga entre elas; é essa estrutura que sustenta a promessa de tokens ilimitados por algo entre US$ 5 e US$ 80 por mês. O nome vem do indonésio "nuvem", e o discurso mira quem já não consegue pagar a conta de tokens.
Dois limites definem se serve para você. O catálogo público é Llama 3 e Llama 3.1 nos tamanhos 8B e 70B, com ajustes finos da comunidade, sem GPT, Claude, Gemini ou Mistral. E as requisições têm teto por minuto e por dia conforme o plano e o porte do modelo: token ilimitado não é requisição ilimitada.
Como começar
- Abra uma conta em awanllm.com e escolha o plano. O Lite é gratuito e não pede cartão, o bastante para ver se o endpoint responde do jeito que seu código espera.
- Gere uma chave de API no painel e guarde onde a aplicação consiga ler.
- Faça a primeira chamada para https://api.awanllm.com/v1/chat/completions com o nome do modelo e o array de mensagens, usando o exemplo em Python, TypeScript ou shell da página Quick Start.
- Acompanhe os limites. Se estourar a cota diária dos modelos grandes, passe a tarefa para um modelo menor ou espere o contador virar.
- Suba de plano quando o teto de requisições apertar, não quando o de tokens apertar.
Informações do produto
Uma visão rápida dos preços, das plataformas compatíveis e do desempenho de Awan LLM.
Ideal para
Os usuários, tarefas e cenários em que esta ferramenta se encaixa melhor.
Usuários
- Quem conversa horas com um assistente de IA
- Desenvolvedores independentes com orçamento curto
- Roteiristas e jogadores de RPG atrás de modelos ajustados
- Equipes que processam muito texto com custo previsível
Tarefas
- Processamento de texto em volume
- Redação de textos longos
- Backend de chatbot e de agente
- Escrita criativa sem censura
Cenários
- Um projeto pessoal que de repente viraliza
- Testar uma biblioteca de prompts
- Ferramentas de desenvolvimento apontadas para um modelo remoto
Principais recursos
Tokens ilimitados com mensalidade fixa
Todo plano, inclusive o gratuito, promete geração de tokens sem limite até o contexto de cada modelo. Você paga o plano, não a entrada nem a saída, então um prompt longo ou uma resposta longa não somam nada. A lógica se inverte: quanto mais usa, melhor fica a conta, e um mês pesado não traz surpresa no cartão.
Chat completions no padrão OpenAI
A API compatível com OpenAI repete o mesmo caminho: as chamadas vão para https://api.awanllm.com/v1/chat/completions com os mesmos campos model e messages do OpenAI, mais controles de amostragem como top_k e repetition_penalty. A página Quick Start traz exemplos em Python, TypeScript e shell, então quase qualquer SDK do OpenAI funciona depois que você troca a URL base e a chave. Tem streaming também, o que pesa em interface de chat, onde esperar a resposta inteira parece travamento.
Limites separados por porte de modelo
Em vez de uma cota única, a Awan divide os limites em classes de modelo pequeno, médio e grande e dá a cada plano uma cota por minuto e outra por dia. O Lite libera 200 requisições diárias para modelos pequenos e 10 para os grandes; o Pro sobe para 80.000 e 30.000; o Max tira o teto diário e adiciona requisições em paralelo. O limite por minuto vai de 20 nos planos baratos a 200 no Max.
Llama 3.1 com contexto longo
Os modelos de destaque da API do Llama 3.1 hoje são Meta-Llama-3.1-8B-Instruct e Meta-Llama-3.1-70B-Instruct, ambos com janela de 131.072 tokens. O 70B assume o raciocínio e a escrita mais difíceis, enquanto os 8B respondem mais rápido e gastam menos cota de requisição. A Awan publica uma estimativa de velocidade por modelo: cerca de 50 tokens por segundo em chamadas isoladas no 8B e 20 no 70B.
Ajustes da comunidade para ficção
Além dos pesos originais da Meta, o catálogo lista versões próprias sobre o Llama 3 8B. Dolfin segue instruções ao pé da letra com menos recusas, Cumulus foi feito para narrativa e RPG sem recusa, e uma build abliterated do Instruct fica ao lado delas. São ferramentas de nicho, mas em ficção e personagem se comportam de um jeito bem diferente de um assistente filtrado: são os modelos Llama sem censura da casa.
Sem registro de prompts
A Awan declara na política de privacidade que não guarda prompts nem gerações, e repete a promessa na home. Para quem manda material de cliente, rascunho inédito ou conversa pessoal por uma API, essa política costuma decidir a compra. Trate como declaração da empresa, não como garantia auditada: se você lida com dado regulado, confirme os termos por escrito.
Prós e contras
Prós
- Tokens ilimitados tiram a contagem de tokens do código e do orçamento.
- O plano Lite gratuito é um nível de verdade, não teste, e não pede meio de pagamento.
- As requisições seguem o formato de chat do OpenAI, então SDKs e frameworks de agente entram trocando a URL base.
- Os 131.072 tokens de contexto no Llama 3.1 resolvem documento longo em uma só requisição.
- O plano mais caro fica em US$ 80 por mês, valor baixo para quem move volume de verdade.
Contras
- O catálogo é só Llama, e as versões listadas são Llama 3 e 3.1: aqui você não alcança GPT, Claude, Gemini nem Llama mais recentes.
- Tokens ilimitados esbarram em teto diário de requisições em todo plano abaixo do Max, então a parede é a vazão, não o token.
- O pagamento passa só por PayPal, o que deixa de fora alguns cartões e contas de empresa.
- O suporte é um endereço de e-mail, sem página de status, SLA ou histórico público de disponibilidade antes do plano Enterprise.
Perguntas frequentes
O Awan LLM é um provedor de API que serve modelos Llama abertos por assinatura mensal em vez de cobrança por token. Você paga um plano, envia requisições de chat completion para o endpoint dele e gera todos os tokens que o contexto do modelo permitir dentro dos seus limites de requisição.
Conteúdo relacionado
Explore ferramentas, skills e artigos relacionados a Awan LLM.
Alternativas a Awan LLM
Base Code
Base44 (Wix) · Programação · ProdutividadeO Base Code é um ambiente de desenvolvimento em nuvem compartilhado da Base44. O time descreve mudanças em um repositório do GitHub pelo chat, confere tudo na prévia e envia o resultado como pull request.
Google EmbeddingGemma 2
Google DeepMind · Escrita · Imagem · ProgramaçãoGoogle EmbeddingGemma 2 é um modelo aberto de 740 milhões de parâmetros que transforma texto, código, imagens, áudio e quadros de vídeo em vetores de um único espaço de 768 dimensões, rodando em celulares e notebooks.
GitGlow
GitGlow · Programação · ProdutividadeO GitGlow é um cliente Git de desktop que coloca seu código e as mudanças dos seus agentes de IA na mesma revisão, para você saber o que vai sair da máquina antes de publicar.