RunAnywhere
RunAnywhere, Inc. · Programación · Otro
RunAnywhere ejecuta modelos de IA en tu propio hardware con SDK de código abierto para seis plataformas, y también ofrece una vía en la nube compatible con OpenAI para modelos grandes.
Acerca de RunAnywhere
What Is RunAnywhere
RunAnywhere es una plataforma de inferencia para IA en el dispositivo. El modelo viaja dentro de tu app y se ejecuta en el chip del usuario, así que los prompts, el audio y las imágenes nunca salen del equipo. Funciona como capa de inferencia local y como asistente de IA sin conexión cuando montas uno encima.
La propuesta tiene dos patas, privacidad y coste, y las dos se sostienen. Nada se manda a la nube por su cuenta, así que un médico, un periodista o cualquiera que maneje texto sensible mantiene los datos en local. Tampoco pagas por token en las ejecuciones locales, porque la potencia la pone un dispositivo que ya es tuyo. La app RunAnywhere para iOS enseña la idea en formato de consumo, con chat, voz y lectura en voz alta que siguen funcionando sin conexión.
Los límites son reales. El rendimiento local depende del hardware, y un modelo pequeño de móvil no iguala a uno puntero alojado en la nube. Además tienes que elegir y descargar los modelos tú mismo, y el hardware compatible cambia según el backend, así que una función que va en un chip puede no estar disponible en otro.
Getting Started
- Instala el SDK de tu plataforma, como el paquete Swift para iOS y macOS o el paquete npm para la web
- Registra los backends que necesites, como llama.cpp para texto o Sherpa-ONNX para voz
- Llama a RunAnywhere.initialize() y consulta RunAnywhere.capabilities() para ver qué puede ejecutar el dispositivo
- Descarga o baja un modelo, cárgalo y llama al espacio de nombres que quieras, como llm o stt
- Para modelos más grandes, instala la CLI wally, inicia sesión en la consola y ejecuta el modelo alojado por su id
Información del producto
Un vistazo rápido a los precios, las plataformas compatibles y el rendimiento de RunAnywhere.
Ideal para
Los usuarios, tareas y casos de uso en los que esta herramienta encaja mejor.
Usuarios
- Desarrolladores de apps
- Creadores centrados en la privacidad
- Equipos pendientes del gasto
- Ingenieros multiplataforma
Tareas
- Añadir chat local
- Transcribir voz
- Montar un asistente de voz
- Responder sobre documentos
- Llamar a modelos punteros cuando haga falta
Casos de uso
- Un vuelo o una zona sin cobertura
- Un trabajo regulado
- Una función de mucho volumen
- Un lanzamiento multiplataforma
- Una sesión de prototipado
Funciones clave
Un núcleo, seis SDK de plataforma
Bajo todas las variantes hay un solo núcleo en C++, de modo que el comportamiento es el mismo si compilas para Swift, Kotlin, React Native, Flutter, Web o Electron. Cada lenguaje recibe un envoltorio nativo sobre ese núcleo, y todos los SDK cuelgan los mismos espacios de nombres de un punto de entrada RunAnywhere. Una llamada se lee casi igual en todas partes, así que no reaprendes la API en cada plataforma.
Un catálogo completo de capacidades de IA
La API se organiza en espacios de nombres que cubren mucho más que texto. Está llm para generación y streaming, stt y tts para voz, voice para una conversación hablada completa, vlm para imagen más prompt, rag para recuperar sobre tus documentos y, junto a ellos, embeddings, rerank, lora, images, diarization y segmentation. Un solo paquete lo expone todo, y tú añades las piezas que necesitas.
Backends con aceleración por hardware
RunAnywhere no se queda en la CPU. Entre los backends están el SDK llama.cpp para lenguaje y visión, ONNX y Sherpa para voz, Apple MLX, Apple Neural Engine vía MetalRT y las NPU Qualcomm Hexagon vía QHexRT. En un M4 Max la compañía mide 658 tokens por segundo en decodificación de LLM y 101 milisegundos de latencia en voz a texto, cifras suyas en el propio dispositivo. El problema es la cobertura: MLX nunca corre en un simulador y QHexRT solo apunta a chips Snapdragon arm64.
Privacidad por defecto
La inferencia se ejecuta en el dispositivo y nada sale de él salvo que lo pidas. Los prompts, el audio y las imágenes se quedan en memoria local, que es justo el motivo por el que una app buscaría IA privada antes que una API en la nube. La vía alojada existe para modelos demasiado grandes para un portátil, pero es una decisión aparte que tomas a propósito. Por defecto los datos se quedan en casa, y el opt-in es explícito.
La CLI wally y la vía en la nube
La línea de comandos wally hace doble trabajo. En local baja un modelo, como el qwen3-0.6b de unos 640 MB, y lo ejecuta sin conexión y sin cuenta. Apuntada a la nube, alcanza modelos abiertos de escala puntera en el hardware de RunAnywhere a través de una API compatible con OpenAI, facturada con créditos prepago. También puedes servir un modelo descargado en una URL local compatible con OpenAI. La misma herramienta cubre los dos extremos del rango de tamaño.
Comprobación de capacidades y gestión de modelos
El SDK te dice qué puede hacer de verdad un dispositivo concreto. Llama a RunAnywhere.capabilities() y obtienes los backends registrados y una lista de lo no disponible, así que puedes ocultar una función antes de que el usuario se tope con ella. El espacio de nombres models se encarga del registro, la descarga, la carga y la descarga de pesos. Es fontanería poco lucida, pero evita que una compilación ofrezca voz en hardware que nunca la iba a ejecutar.
Ventajas y desventajas
Ventajas
- Ejecuta texto, voz, visión y recuperación en el dispositivo, así que los prompts y el audio se quedan en local por defecto.
- Un núcleo compartido entre seis plataformas mantiene la misma forma de API en iOS, Android, web y escritorio.
- La CLI wally cubre tanto ejecuciones offline gratis como una vía alojada compatible con OpenAI para modelos grandes.
- La comprobación de capacidades y el espacio de nombres models aclaran qué puede ejecutar un dispositivo antes de que lances una función.
- Plan gratuito e inferencia local significan ninguna factura por token en el trabajo hecho en el hardware del usuario.
Desventajas
- La calidad local depende del dispositivo, así que un modelo de móvil no iguala a uno puntero alojado.
- La cobertura de backends cambia según el chip y la plataforma, así que MLX se salta los simuladores y QHexRT es solo Snapdragon arm64.
- Tienes que elegir, descargar y gestionar los modelos tú mismo, más trabajo que llamar a una API alojada.
- La vía en la nube pide cuenta y créditos prepago, así que no es una suscripción plana.
Preguntas frecuentes
RunAnywhere es una plataforma de inferencia para ejecutar modelos de IA en tu propio hardware. Ofrece SDK de código abierto para seis plataformas que meten modelos de lenguaje, voz y visión dentro de tu app, y una vía alojada compatible con OpenAI para modelos demasiado grandes para un portátil. Las dos las maneja una misma empresa y una misma línea de comandos.
Contenido relacionado
Explora herramientas, habilidades y artículos relacionados con RunAnywhere.
Alternativas a RunAnywhere
Base Code
Base44 (Wix) · Programación · ProductividadBase Code es un entorno de desarrollo en la nube compartido de Base44. El equipo describe cambios sobre un repositorio de GitHub en el chat, los ve en una vista previa y los envía como pull requests.
Google EmbeddingGemma 2
Google DeepMind · Escritura · Imagen · ProgramaciónGoogle EmbeddingGemma 2 es un modelo abierto de 740 millones de parámetros que convierte texto, código, imágenes, audio y fotogramas de vídeo en vectores de un mismo espacio de 768 dimensiones, y funciona en móviles y portátiles.
GitGlow
GitGlow · Programación · ProductividadGitGlow es un cliente Git de escritorio que reúne tu código y los cambios de tus agentes de IA en una sola revisión, para que sepas qué va a salir de tu máquina antes de publicarlo.