RunAnywhere
RunAnywhere, Inc. · Programação · Outros
O RunAnywhere roda modelos de IA no seu próprio hardware com SDKs de código aberto para seis plataformas, e ainda oferece um caminho na nuvem compatível com OpenAI para modelos grandes.
Sobre RunAnywhere
What Is RunAnywhere
O RunAnywhere é uma plataforma de inferência para IA no dispositivo. O modelo viaja dentro do seu app e roda no chip do usuário, então prompts, áudio e imagens nunca saem do equipamento. Ele funciona como camada de inferência local e como assistente de IA offline quando você monta um em cima dele.
A proposta tem dois pilares, privacidade e custo, e os dois se sustentam. Nada vai para a nuvem por conta própria, então um médico, um jornalista ou qualquer pessoa que lide com texto sensível mantém os dados em local. Você também não paga por token nas execuções locais, já que a força vem de um dispositivo que já é seu. O app RunAnywhere para iOS mostra a ideia em formato de consumo, com chat, voz e leitura em voz alta que continuam funcionando sem conexão.
Os limites são reais. O desempenho local depende do hardware, e um modelo pequeno de celular não iguala um modelo de ponta hospedado na nuvem. Além disso, você mesmo escolhe e baixa os modelos, e o hardware compatível muda conforme o backend, então um recurso que funciona em um chip pode não estar disponível em outro.
Getting Started
- Instale o SDK da sua plataforma, como o pacote Swift para iOS e macOS ou o pacote npm para a web
- Registre os backends que precisar, como llama.cpp para texto ou Sherpa-ONNX para voz
- Chame RunAnywhere.initialize() e consulte RunAnywhere.capabilities() para ver o que o dispositivo consegue rodar
- Baixe um modelo, carregue-o e chame o namespace desejado, como llm ou stt
- Para modelos maiores, instale a CLI wally, entre na conta na console e rode o modelo hospedado pelo id
Informações do produto
Uma visão rápida dos preços, das plataformas compatíveis e do desempenho de RunAnywhere.
Ideal para
Os usuários, tarefas e cenários em que esta ferramenta se encaixa melhor.
Usuários
- Desenvolvedores de apps
- Criadores focados em privacidade
- Equipes atentas ao gasto
- Engenheiros multiplataforma
Tarefas
- Adicionar chat local
- Transcrever voz
- Montar um assistente de voz
- Responder sobre documentos
- Chamar modelos de ponta quando precisar
Cenários
- Um voo ou uma área sem sinal
- Um trabalho regulado
- Um recurso de alto volume
- Um lançamento multiplataforma
- Uma sessão de prototipagem
Principais recursos
Um núcleo, seis SDKs de plataforma
Debaixo de todas as variações há um único núcleo em C++, então o comportamento é o mesmo se você compilar para Swift, Kotlin, React Native, Flutter, Web ou Electron. Cada linguagem recebe um invólucro nativo sobre esse núcleo, e todos os SDKs penduram os mesmos namespaces de um ponto de entrada RunAnywhere. Uma chamada se lê quase igual em toda parte, então você não reaprende a API em cada plataforma.
Um catálogo completo de recursos de IA
A API se organiza em namespaces que cobrem muito mais do que texto. Há llm para geração e streaming, stt e tts para voz, voice para uma conversa falada inteira, vlm para imagem mais prompt, rag para buscar sobre os seus documentos e, junto deles, embeddings, rerank, lora, images, diarization e segmentation. Um único pacote expõe tudo, e você adiciona as peças de que precisa.
Backends com aceleração por hardware
O RunAnywhere não fica só na CPU. Entre os backends estão o SDK llama.cpp para linguagem e visão, ONNX e Sherpa para voz, Apple MLX, Apple Neural Engine via MetalRT e as NPUs Qualcomm Hexagon via QHexRT. Em um M4 Max a empresa mede 658 tokens por segundo na decodificação de LLM e 101 milissegundos de latência em voz para texto, números dela no próprio dispositivo. O problema é a cobertura: o MLX nunca roda em simulador e o QHexRT só mira chips Snapdragon arm64.
Privacidade por padrão
A inferência roda no dispositivo e nada sai dele a menos que você peça. Prompts, áudio e imagens ficam em memória local, que é justamente o motivo pelo qual um app sensível à privacidade escolheria IA privada antes de uma API na nuvem. O caminho hospedado existe para modelos grandes demais para um notebook, mas é uma decisão à parte que você toma de propósito. Por padrão os dados ficam em casa, e o opt-in é explícito.
A CLI wally e o caminho na nuvem
A linha de comando wally faz trabalho duplo. Em local, baixa um modelo, como o qwen3-0.6b de cerca de 640 MB, e o roda offline sem conta. Apontada para a nuvem, alcança modelos abertos de escala de ponta no hardware do RunAnywhere por meio de uma API compatível com OpenAI, faturada com créditos pré-pagos. Você também pode servir um modelo baixado numa URL local compatível com OpenAI. A mesma ferramenta cobre os dois extremos do intervalo de tamanho.
Checagem de capacidades e gestão de modelos
O SDK diz o que um dispositivo específico consegue fazer de verdade. Chame RunAnywhere.capabilities() e você recebe os backends registrados e uma lista do que está indisponível, então dá para esconder um recurso antes de o usuário esbarrar nele. O namespace models cuida do registro, do download, da carga e da descarga dos pesos. É encanamento pouco vistoso, mas é o que impede uma compilação de oferecer voz em hardware que nunca a rodaria.
Prós e contras
Prós
- Roda texto, voz, visão e recuperação no dispositivo, então prompts e áudio ficam em local por padrão.
- Um núcleo compartilhado entre seis plataformas mantém o mesmo formato de API em iOS, Android, web e desktop.
- A CLI wally cobre tanto execuções offline grátis quanto um caminho hospedado compatível com OpenAI para modelos grandes.
- A checagem de capacidades e o namespace models deixam claro o que um dispositivo consegue rodar antes de você lançar um recurso.
- Plano gratuito e inferência local significam conta zero por token no trabalho feito no hardware do usuário.
Contras
- A qualidade local depende do dispositivo, então um modelo de celular não iguala um de ponta hospedado.
- A cobertura de backends muda conforme o chip e a plataforma, então o MLX pula simuladores e o QHexRT é só Snapdragon arm64.
- Você mesmo escolhe, baixa e gerencia os modelos, o que dá mais trabalho do que chamar uma API hospedada.
- O caminho na nuvem pede conta e créditos pré-pagos, então não é uma assinatura fixa.
Perguntas frequentes
O RunAnywhere é uma plataforma de inferência para rodar modelos de IA no seu próprio hardware. Ele oferece SDKs de código aberto para seis plataformas que colocam modelos de linguagem, voz e visão dentro do seu app, e um caminho hospedado compatível com OpenAI para modelos grandes demais para um notebook. Os dois são guiados por uma mesma empresa e uma mesma linha de comando.
Conteúdo relacionado
Explore ferramentas, skills e artigos relacionados a RunAnywhere.
Alternativas a RunAnywhere
Base Code
Base44 (Wix) · Programação · ProdutividadeO Base Code é um ambiente de desenvolvimento em nuvem compartilhado da Base44. O time descreve mudanças em um repositório do GitHub pelo chat, confere tudo na prévia e envia o resultado como pull request.
Google EmbeddingGemma 2
Google DeepMind · Escrita · Imagem · ProgramaçãoGoogle EmbeddingGemma 2 é um modelo aberto de 740 milhões de parâmetros que transforma texto, código, imagens, áudio e quadros de vídeo em vetores de um único espaço de 768 dimensões, rodando em celulares e notebooks.
GitGlow
GitGlow · Programação · ProdutividadeO GitGlow é um cliente Git de desktop que coloca seu código e as mudanças dos seus agentes de IA na mesma revisão, para você saber o que vai sair da máquina antes de publicar.