Groq
Groq · Outros
O Groq é uma plataforma de inferência que roda modelos abertos nos próprios chips LPU e entrega respostas muito rápidas pela API e pelo console do GroqCloud.
Sobre Groq
What Is Groq
O Groq é uma empresa americana de IA fundada em 2016 por um grupo de engenheiros que saíram do Google, liderados por Jonathan Ross, um dos criadores do chip TPU do Google. Em vez de treinar modelos, o Groq se concentra em servi-los rápido. Criou um chip próprio batizado de LPU, sigla de Language Processing Unit, ou unidade de processamento de linguagem, e aluga o acesso às suas fazendas de chips por uma plataforma de nuvem chamada GroqCloud.
A proposta se apoia em velocidade e custo. Como o LPU foi feito para rodar modelos e não para treiná-los, a empresa afirma que devolve texto muito mais rápido do que as GPUs de uso geral. Isso pesa quando você alimenta um chat, um agente de voz ou um assistente de código que precisa parecer instantâneo. Os desenvolvedores chegam até lá por uma API que copia o formato da OpenAI, então quase todo o código existente funciona depois de trocar a URL base e a chave.
O limite principal é o alcance. O Groq serve modelos abertos criados por outros laboratórios, como Llama, Mistral, Qwen e a linha GPT OSS, ou seja, não entrega diretamente um modelo de fronteira fechado como GPT ou Claude. Você também depende de os servidores ficarem no ar e dos limites de uso do plano gratuito, generosos para testar mas apertados para tráfego de produção até migrar para um plano pago.
Getting Started
- Acesse console.groq.com e crie uma conta com um e-mail ou uma conta do Google.
- Gere uma chave de API no console e guarde-a em sigilo, porque o consumo é cobrado na sua conta.
- Envie uma requisição para o endpoint de chat completions. Reaproveite qualquer SDK da OpenAI e troque a URL base pela do Groq junto com a sua chave.
- Passe antes pelo playground integrado se quiser comparar modelos sem escrever código.
- Acompanhe o consumo dentro do plano gratuito e adicione um meio de pagamento ou peça um nível superior quando precisar de mais vazão.
Informações do produto
Uma visão rápida dos preços, das plataformas compatíveis e do desempenho de Groq.
Ideal para
Os usuários, tarefas e cenários em que esta ferramenta se encaixa melhor.
Usuários
- Desenvolvedores que criam recursos de IA
- Startups atentas à conta de inferência
- Times de produto que lançam agentes de voz e chat
Tarefas
- Atender requisições de chat e conclusão
- Fala para texto e texto para fala
- Rodar trabalhos em lote
- Prototipar ideias novas
Cenários
- Assistentes em tempo real
- Escala ajustada ao custo
- Migrar de outro provedor
Principais recursos
Inferência rápida em chips LPU próprios
O Groq projeta os próprios chips, a Language Processing Unit, feitos para rodar modelos de IA e não para treiná-los. A empresa sustenta que essa arquitetura devolve texto muito mais rápido que as GPUs de uso geral, e esse é o motivo pelo qual quase todos chegam ao Groq. Em qualquer uso interativo, é essa velocidade que o usuário sente.
Uma API compatível com a OpenAI
O GroqCloud expõe um endpoint de chat completions que casa com o formato da OpenAI, então na maioria dos casos você aponta um SDK que já usa para a URL base do Groq, insere uma chave dele e funciona. A migração sai barata e permite testar o Groq sem reescrever a integração. Também reduz a curva de aprendizado de quem já construiu com a OpenAI.
Um catálogo de modelos abertos
A plataforma serve modelos abertos de vários laboratórios: as famílias Llama, Mistral e Qwen, além da linha GPT OSS. Você troca de um para outro mudando um parâmetro, o que facilita comparar qualidade e custo sobre a mesma carga. O Groq vai somando e retirando modelos no ritmo do mercado de modelos abertos.
Voz, fala e transcrição
Além do texto, o Groq cobre fala para texto e texto para fala, com os modelos de voz Orpheus incluídos. Assim, uma única plataforma pode alimentar uma ferramenta de transcrição, um leitor de audiolivros ou um agente de voz sem juntar vários fornecedores. Para os times que criam produtos conversacionais, ter tudo em uma API simplifica a arquitetura.
Níveis de serviço e processamento em lote
O Groq divide o trabalho em níveis de serviço para você ajustar velocidade e preço. O principal roda sob demanda para uso interativo, enquanto as opções flex e batch custam menos e servem cargas que podem esperar. Times atentos ao gasto ganham uma alavanca sem sair da plataforma.
Ferramentas, saídas estruturadas e MCP
A API aceita uso de ferramentas, saídas estruturadas, execução de código e ferramentas remotas via conectores MCP. Com esses recursos, um modelo pode chamar funções, devolver JSON limpo para outro sistema ou alcançar fontes externas, que é o que transforma um chat em algo capaz de concluir uma tarefa.
Prós e contras
Prós
- As respostas voltam rápido, o que casa com chat, voz e ferramentas de código em tempo real. Essa rapidez é justamente o que você compra com a inferência rápida de LLM.
- A API segue o formato da OpenAI, então o código que você já tem costuma funcionar com uma mudança pequena.
- Um plano gratuito com limite de uso usável facilita testar antes de pagar.
- O pagamento por token em modelos abertos mantém o custo previsível conforme o uso cresce.
Contras
- Só serve modelos abertos, então você não consegue rodar nele um modelo de fronteira fechado como GPT ou Claude.
- Os limites do plano gratuito são estreitos para tráfego de produção e forçam a subir de nível antes do que muitos esperam.
- Você depende do tempo de atividade do Groq e do catálogo de modelos, e ambos mudam no ritmo do setor.
- Preços e detalhes de cada nível variam por modelo, então estimar a fatura exige um pouco de trabalho prévio.
Perguntas frequentes
O Groq serve para rodar modelos de IA rápido. Desenvolvedores o usam para alimentar chats, agentes de voz, assistentes de código e trabalhos em lote, chamando modelos abertos por uma API que imita o formato da OpenAI.
Conteúdo relacionado
Explore ferramentas, skills e artigos relacionados a Groq.
Alternativas a Groq
Odyssey 3
Odyssey · OutrosOdyssey-3 é o modelo de mundo fundacional da Odyssey. Simula física em tempo real, transforma um texto em ambiente interativo e se adapta a robôs, carros e jogos.
JarvisCore
Prescott Data · Programação · Produtividade · OutrosJarvisCore é um runtime de código aberto em Python em que agentes de IA atuam como pares numa malha, assumem tarefas de um registro compartilhado e chegam a serviços externos por um broker sem confiança.
Clef
Cloudflare · Negócios · OutrosClef é o modelo de decisão open source da Cloudflare para o Workers AI. Devolve probabilidades calibradas para perguntas tipadas em vez de texto, então o agente classifica, roteia e age rápido.