NexaSDK for Mobile
Nexa AI (acquired by Qualcomm) · Programação · Outros
O NexaSDK for Mobile é um kit de desenvolvimento que executa modelos de IA direto no celular em vez de um servidor na nuvem. Ele lida com modelos de texto, imagem e áudio em hardware NPU, GPU e CPU no Android e no iOS, então os apps podem responder prompts, transcrever fala ou ler imagens sem uma ida e volta à rede. O SDK é gratuito e de código aberto, o que o torna um ponto de partida prático para equipes que querem inferência de IA no dispositivo sem construir um motor do zero.
Sobre NexaSDK for Mobile
O que é o NexaSDK for Mobile
O NexaSDK for Mobile é um SDK de inferência de IA no dispositivo da Nexa AI, empresa que a Qualcomm adquiriu em 2025. Ele dá aos desenvolvedores de apps um único motor para modelos de IA locais, então eles não escrevem código de aceleração separado para cada chip dentro de um celular.
A proposta é simples. A IA na nuvem é rápida de construir mas lenta de responder, precisa de conexão e envia os dados do usuário ao servidor de outra pessoa. Rodar o modelo no dispositivo resolve as três coisas, e o SDK cuida da parte confusa: escolher o processador certo e manter a inferência eficiente. Menos código, menos surpresas.
O maior porém é o hardware. Os maiores ganhos de desempenho vêm da NPU, e esses ganhos dependem de ter um chip Snapdragon recente com um formato de precisão compatível. Em celulares antigos ou intermediários, o SDK recorre à CPU ou à GPU. Modelos pequenos ainda funcionam lá. Modelos de linguagem grandes sofrem com a velocidade e o consumo de bateria. Também é uma ferramenta para desenvolvedores, então os usuários finais nunca a tocam diretamente. Eles só sentem se um app responde rápido sem devorar a bateria.
Como começar
- Baixe o SDK do repositório da Nexa AI no GitHub ou instale pelo gerenciador de pacotes da plataforma do seu app.
- Escolha um formato de modelo que o motor suporte, como GGUF, MLX ou o formato .nexa da própria Nexa AI, e baixe um modelo que caiba na memória do seu celular.
- Escolha um motor de computação para a inferência: NPU para velocidade e eficiência, ou CPU e GPU para cobrir mais aparelhos.
- Conecte o modelo ao seu app pelo servidor de API compatível com OpenAI que vem com o SDK.
- Teste em um aparelho real e acompanhe o uso de memória e bateria antes de publicar, porque resultados de desktop não valem para celulares.
Informações do produto
Uma visão rápida dos preços, das plataformas compatíveis e do desempenho de NexaSDK for Mobile.
Ideal para
Os usuários, tarefas e cenários em que esta ferramenta se encaixa melhor.
Usuários
- Desenvolvedores de Android e iOS
- Equipes com exigências de privacidade ou de uso offline
- Prototipadores
Tarefas
- Rodar um modelo de linguagem pequeno offline
- Transcrição de voz
- Tarefas de imagem e visão
- Chamadas de função
Cenários
- Um app de notas ou chat que mantém as conversas no aparelho
- Trabalho de campo com sinal irregular
- Recursos sensíveis à bateria
Principais recursos
Um só motor para NPU, GPU e CPU
O SDK roda modelos no processador que estiver disponível, e se apoia na NPU quando o celular tem uma. Isso importa porque a NPU é feita para trabalho de IA. Segundo a Nexa AI, um modelo Granite pequeno atingiu 92 tokens por segundo na NPU de um celular Snapdragon 8 Elite, contra 40 tokens por segundo na CPU, com até 9 vezes melhor eficiência energética na NPU. Menos consumo na mesma tarefa é a diferença entre um recurso que você liga e um que deixa desligado.
Vários formatos de modelo
O NexaSDK for Mobile lê GGUF, MLX e o formato .nexa da própria Nexa AI. A variedade dá espaço para escolher um modelo que já existe em um formato que o motor entende, em vez de converter tudo você mesmo. Modelos quantizados são a escolha prática em celulares. A memória e o armazenamento são apertados.
Cobertura de texto, imagem e áudio
O motor lida com mais do que texto. Suporta modelos de visão e áudio, então um app pode ler uma foto, comparar duas imagens ou trabalhar com áudio gravado na mesma configuração. Para apps que misturam modalidades, isso é uma integração em vez de várias.
Servidor de API compatível com OpenAI
O SDK traz um servidor de API que espelha a interface da OpenAI, incluindo chamadas de função por esquema JSON e streaming. Se o seu código já fala com um modelo na nuvem, mover para um local é quase só apontar para o servidor no aparelho. Para equipes que pesam IA na nuvem contra IA no dispositivo, isso baixa o custo da troca.
Aceleração de hardware em Snapdragon
A integração da Qualcomm mira a NPU Hexagon, a GPU Adreno e a CPU Oryon em plataformas Snapdragon, com suporte a formatos de baixa precisão como INT4 e INT8. Os desenvolvedores escolhem o motor que encaixa na tarefa em vez de ajustar cada aparelho na mão. É aqui que a inferência em NPU Snapdragon se justifica nos celulares Android.
Suporte a modelos desde o primeiro dia
Modelos abertos novos são adicionados conforme saem, nos diferentes backends de hardware. Se você espera um modelo recém-lançado rodar localmente, esse tempo importa, porque um modelo que só roda na nuvem não ajuda um app offline.
Prós e contras
Prós
- Gratuito e de código aberto, então não há custo de licença para testar.
- Um só motor cobre NPU, GPU e CPU, o que reduz o trabalho por aparelho.
- Ganhos reais de eficiência na NPU, com números publicados de velocidade e consumo.
- O servidor compatível com OpenAI facilita levar código de nuvem existente para um modelo local.
- Lida com modelos de texto, imagem e áudio em uma só configuração.
Contras
- O melhor desempenho precisa de um celular Snapdragon recente, então os resultados variam muito entre aparelhos e celulares antigos recorrem a inferência mais lenta na CPU ou GPU.
- Modelos grandes são limitados pela memória do celular, e rodar um modelo grande na CPU gasta bateria e deixa as respostas lentas.
- É um SDK para desenvolvedores, então não há um app pronto para um usuário leigo abrir e usar.
Perguntas frequentes
Ele roda modelos de IA localmente dentro de apps Android e iOS. Recursos como chat, transcrição e leitura de imagens funcionam sem enviar dados a um servidor na nuvem. Use quando quiser respostas rápidas, suporte offline ou mais controle sobre os dados do usuário.
Conteúdo relacionado
Explore ferramentas, skills e artigos relacionados a NexaSDK for Mobile.
Alternativas a NexaSDK for Mobile
Forefront
Forefront · ProgramaçãoO Forefront é uma plataforma web para construir com IA de código aberto. Você ajusta os principais modelos de linguagem de código aberto com seus próprios dados, avalia o desempenho deles e os roda por uma API ou os exporta para hospedar por conta própria. Desenvolvedores que querem a conveniência de uma plataforma fechada, mas fazem questão de ser donos dos modelos e dos dados, são o público-alvo aqui.
Startkit
StartKit.AI · ProgramaçãoStartkit é um boilerplate para criar produtos de SaaS com IA e wrappers de IA. Pense nele como um boilerplate para startups de IA com as partes chatas já conectadas: autenticação, pagamentos com Stripe e Lemon Squeezy, limites de uso, e-mail transacional e um kit inicial de API de IA que conversa com OpenAI, Anthropic, Groq ou Llama. Você clona o repositório, define seu preço e começa pela parte do produto que as pessoas realmente pagam. Ele é feito em Next.js sobre React e Tailwind, então boa parte do código boilerplate já parece familiar.
Testim
Tricentis · ProgramaçãoO Testim é uma plataforma de automação de testes com IA para criar e executar testes de ponta a ponta em aplicações web, mobile e Salesforce. Ele se apoia no aprendizado de máquina para manter os testes estáveis quando uma interface muda, então as equipes gastam menos tempo consertando seletores quebrados. Nada mal para uma ferramenta de testes automatizados que você pode começar a usar hoje. Você cria testes gravando ações no navegador e depois adiciona JavaScript quando precisa de mais controle. É uma escolha sólida para equipes de QA ocupadas.