LLMWare.ai

Model HQ te deja montar flujos de IA de varios pasos sin escribir código. Encadenas modelos, fuentes de datos y lógica en un proceso repetible, desde un simple paso de resumen hasta una cadena que lee un documento, extrae campos y enruta un resultado. Con eso el producto va más allá de un chatbot: ejecuta tareas de negocio de principio a fin. La empresa sitúa este creador como la pieza que abre la automatización con IA a quien nunca toca Python.

La plataforma trae un catálogo de más de 250 modelos pequeños de lenguaje, empaquetados en formatos cuantizados para correr en la GPU y la NPU del dispositivo. Incluye la familia SLIM (Structured Language Instruction Models) para llamadas a funciones y clasificación, los modelos DRAGON ajustados para preguntas y respuestas con RAG, y los BLING para prototipos rápidos. También admite los principales modelos en la nube de OpenAI, Anthropic y Google, así que mezclas local y nube donde tenga sentido.

Model HQ incorpora un pipeline de generación aumentada por recuperación, la misma tecnología detrás del framework de código abierto llmware. Apuntas a una carpeta de PDF, documentos de Word u hojas de cálculo; el sistema los analiza, trocea e indexa, y luego responde usando ese contexto. La empresa lo conecta con varias bases de datos vectoriales, entre ellas FAISS, Milvus, Pinecone, Qdrant, Postgres (PG Vector), Redis y Chroma, para equipos que ya usan alguna.

El agente cliente está hecho para aprovechar el silicio que ya lleva un portátil moderno. Corre en CPU, GPU y NPU, y está afinado para chips de Intel, AMD, Apple, NVIDIA y Qualcomm Snapdragon. La empresa indica tiempos medios de descarga de unos 10 segundos para la app y de menos de 30 minutos para un conjunto de modelos en un dispositivo. Los modelos de hasta 32B parámetros corren en los AI PC más recientes, así que tienes capacidad útil sin servidor.

Como la inferencia corre en tu hardware, no hay cargo por token ni factura medida de API. La empresa sitúa el coste incremental esperado por token en un AI PC en $0. La mayoría de los flujos funcionan sin conexión de red, algo que importa a equipos de campo, instalaciones seguras y a quien prefiere no depender de que un servicio externo esté disponible. Tus datos se quedan en tu entorno por defecto.

Model HQ está pensado para correr en tres sitios: en AI PCs, en tu centro de datos para inferencia por lotes y RAG sobre datos sensibles, o en una nube privada para operaciones grandes y sensibles al tiempo. Los tres se pueden enlazar en una configuración mixta, de modo que el agente del portátil tire de un despliegue central cuando necesite modelos mayores. Las empresas pueden crear apps de agentes de IA y desplegarlas en los dispositivos de su plantilla.

La plataforma incluye los controles que pide un comprador regulado: explicabilidad de la IA, filtrado de datos personales, control de toxicidad y sesgo, y detección de alucinaciones. Los despliegues de empresa añaden monitorización, actualizaciones y escalado sobre hardware variado. Junto con la ejecución en el dispositivo, eso da a los equipos de cumplimiento una forma de responder adónde fueron los datos y qué vio el modelo.