LLMWare.ai

Model HQ vous laisse monter des flux IA à plusieurs étapes sans écrire de code. Vous enchaînez modèles, sources de données et logique dans un processus répétable, du simple résumé jusqu'à une chaîne qui lit un document, en extrait des champs et oriente un résultat. Le produit dépasse alors le chatbot : il exécute des tâches métier de bout en bout. L'entreprise présente ce générateur comme la pièce qui ouvre l'automatisation par l'IA à ceux qui ne touchent jamais à Python.

La plateforme embarque un catalogue de plus de 250 petits modèles de langage, conditionnés dans des formats quantifiés pour tourner sur le GPU et le NPU de l'appareil. On y trouve la famille SLIM (Structured Language Instruction Models) pour l'appel de fonctions et la classification, les modèles DRAGON réglés pour les questions-réponses en RAG, et les BLING pour les prototypes rapides. Elle prend aussi en charge les principaux modèles cloud d'OpenAI, Anthropic et Google, pour mixer local et cloud là où chacun a du sens.

Model HQ intègre un pipeline de génération augmentée par récupération, la même technologie que le framework open source llmware. Vous pointez vers un dossier de PDF, de documents Word ou de tableurs ; le système les analyse, les découpe en segments et les indexe, puis répond en s'appuyant sur ce contexte. L'entreprise le relie à plusieurs bases de données vectorielles, dont FAISS, Milvus, Pinecone, Qdrant, Postgres (PG Vector), Redis et Chroma, pour les équipes qui en utilisent déjà une.

L'agent client est conçu pour exploiter le silicium déjà présent dans un portable moderne. Il tourne sur CPU, GPU et NPU, et il est optimisé pour les puces d'Intel, AMD, Apple, NVIDIA et Qualcomm Snapdragon. L'entreprise cite des temps de téléchargement moyens d'environ 10 secondes pour l'app et de moins de 30 minutes pour un ensemble de modèles sur un appareil. Les modèles jusqu'à 32B paramètres tournent sur les AI PC les plus récents, donc vous obtenez des capacités utiles sans serveur.

Comme l'inférence tourne sur votre matériel, il n'y a pas de facturation au token ni de facture d'API mesurée. L'entreprise estime le coût incrémental attendu par token sur un AI PC à $0. La plupart des flux tournent sans connexion réseau, ce qui compte pour les équipes terrain, les sites sécurisés et ceux qui préfèrent ne pas dépendre d'un service externe disponible. Vos données restent dans votre environnement par défaut.

Model HQ est pensé pour tourner à trois endroits : sur les AI PC, dans votre centre de données pour l'inférence par lots et le RAG sur données sensibles, ou dans un cloud privé pour les opérations importantes et sensibles au temps. Les trois peuvent se relier pour un montage mixte, de sorte que l'agent du portable puise dans un déploiement central quand il a besoin de modèles plus grands. Les entreprises peuvent créer des apps d'agents IA et les déployer sur les appareils de leurs équipes.

La plateforme regroupe les contrôles qu'un acheteur réglementé réclame : explicabilité de l'IA, filtrage des données personnelles, suivi de la toxicité et des biais, et détection des hallucinations. Les déploiements en entreprise ajoutent la supervision, les mises à jour et la montée en charge sur un parc matériel varié. Avec l'exécution sur l'appareil, cela donne aux équipes de conformité de quoi répondre sur le parcours des données et ce que le modèle a vu.