Guide Labs: Interpretable foundation models
Guide Labs · Programmation · Autres
Guide Labs conçoit des modèles de fondation interprétables. Steerling-8B relie chaque sortie aux tokens du prompt, à des concepts lisibles et aux données d'entraînement, et Clarity pilote le comportement sans réentraînement.
À propos de Guide Labs: Interpretable foundation models
About
Qu'est-ce que Guide Labs
Guide Labs est une startup de San Francisco qui développe des modèles de langage dont le raisonnement reste visible. Julius Adebayo, Aya Abdelsalam Ismail et une équipe diplômée du MIT, de l'université du Maryland et de Mila l'ont fondée en 2024. Le premier modèle publié, Steerling-8B, est sorti en février 2026, et l'espace de travail Clarity a ouvert en juin de la même année à des chercheurs invités.
Chez la plupart des LLM, l'explication arrive après coup. Un outil séparé examine la réponse terminée et devine quels mots ont pesé, et ces suppositions sont difficiles à vérifier. Les travaux d'Adebayo publiés en 2018 ont montré que plusieurs méthodes d'explication réputées changent du tout au tout quand on randomise le modèle, autrement dit qu'elles mesuraient souvent du bruit. Guide Labs inverse l'ordre : l'interprétabilité devient une contrainte d'entraînement, donc chaque prédiction se décompose en contributions de concepts nommés.
Le revers, c'est l'échelle. Steerling-8B compte 8 milliards de paramètres et a été entraîné sur 1 350 milliards de tokens ; l'entreprise annonce des moyennes sur benchmarks comparables à celles de modèles ouverts entraînés avec 2 à 7 fois plus de données. C'est une bonne base pour générer du texte contrôlé et auditable, pas un rival des modèles de pointe sur le raisonnement difficile. Qui veut la meilleure réponse possible ira encore voir ailleurs, vers un système plus gros.
Pour commencer
- Demandez un accès à la plateforme Clarity sur platform.guidelabs.ai, ou passez la file et récupérez les poids ouverts sur Hugging Face.
- Installez le paquet avec pip install steerling, puis chargez le checkpoint sur votre propre GPU.
- Envoyez un prompt dans le chat de Clarity ou via le paquet. Le texte arrive par blocs, pas token par token.
- Cliquez sur un bloc pour ouvrir le panneau d'explications : vous voyez les tokens du prompt, les concepts classés et les sources d'entraînement derrière ce passage.
- Ajoutez un concept à la barre de pilotage, choisissez amplifier ou supprimer, puis relancez le même prompt pour comparer.
Informations sur le produit
Aperçu des tarifs, des plateformes compatibles et des performances de Guide Labs: Interpretable foundation models.
Idéal pour
Les utilisateurs, tâches et cas d'usage où cet outil convient le mieux.
Utilisateurs
- Chercheurs en sécurité et en alignement
- Ingénieurs ML qui livrent des fonctions LLM
- Équipes conformité et risque en secteur régulé
Tâches
- Diagnostiquer une mauvaise réponse
- Retirer un comportement indésirable sans réentraîner
- Vérifier l'origine d'une connaissance
Cas d'usage
- Revue avant mise en production d'un assistant client
- Questions de licence et de provenance
- Recherche sur l'alignement à l'inférence
Fonctionnalités clés
Des explications par concept pour chaque bloc
Steerling découpe son espace de représentations en environ 33 000 concepts supervisés, près de 100 000 qu'il découvre seul et un résidu qui capte le reste. Les concepts alimentent la sortie par un chemin linéaire, si bien que chaque prédiction se répartit en contributions par concept. Un clic sur un bloc dans Clarity affiche une liste classée qui couvre les thèmes de contenu et aussi le ton, par exemple analytique ou clinique.
Attribution des données d'entraînement
Le modèle indique quelles données d'entraînement ressemblent le plus à ce qu'il vient d'écrire, regroupées par source. C'est là que la discussion d'audit change : au lieu de débattre d'une éventuelle mémorisation, vous regardez les passages attribués et jugez. Guide Labs s'appuie sur ses travaux PRISM consacrés aux prototypes de données.
Pilotage par concepts sans réentraînement
Une barre de pilotage amplifie ou supprime n'importe quel concept au moment de l'inférence. Amplifier ressemble à un prompt bien placé ; supprimer est le tour difficile, car un prompt n'arrête pas toujours le modèle. Dans la démo, supprimer les noms de rôle transforme une description masculine des informaticiens en formulation neutre.
Poids ouverts et paquet Python
Les poids du modèle de base sont sur Hugging Face, le code sur GitHub et le paquet sur PyPI. Vous pouvez donc tester sur vos propres données avant de parler au commercial. L'architecture est un modèle de diffusion discrète causal, ce qui étend le pilotage à des blocs de plusieurs tokens et pas seulement au suivant.
Espace Clarity avec panneau de comparaison
Clarity ressemble à un chat ordinaire avec un bouton en plus. Le panneau de comparaison relance le même prompt avec et sans pilotage pour montrer les écarts de formulation, de concepts et de données attribuées. C'est le moyen le plus rapide d'expliquer le produit à un collègue qui ne lira pas l'article de recherche.
Alignement sans jeux de données de sécurité
Guide Labs soutient que supprimer des concepts peut remplacer de gros lots d'exemples de sécurité pour certains comportements. Si le but est de tenir un sujet hors de la réponse, bloquer le concept est plus direct que d'écrire des dizaines de refus. Les résultats demandent encore des tests par domaine, car les étiquettes restent larges.
Avantages et inconvénients
Avantages
- Chaque prédiction se répartit en contributions de concepts par construction, sans dépendre d'un outil externe qui devine.
- La suppression de concepts couvre des comportements qu'un prompt ne maîtrise pas, y compris un cadrage indésirable dans le texte généré.
- Les poids ouverts et le paquet pip permettent de tester sur votre matériel avant tout engagement.
- L'attribution des données donne aux relecteurs une pièce concrète à examiner en audit.
Inconvénients
- Le modèle 8B reste derrière les systèmes de pointe sur le raisonnement et les maths difficiles, donc il vise la génération contrôlée plutôt que la performance maximale.
- Clarity fonctionne sur invitation, sans tarif public, ce qui complique le budget d'une équipe qui a besoin d'un contrat.
- Environ 133 000 concepts, c'est beaucoup à relire, et ceux qui comptent dans votre domaine demandent encore une vérification humaine.
- Aucune API hébergée n'est documentée, donc une mise en production suppose de monter l'inférence vous-même.
Questions fréquentes
Guide Labs est une startup qui construit des modèles de fondation dont l'interprétabilité est intégrée à l'entraînement. Son modèle Steerling-8B rattache chaque passage généré aux tokens du prompt, à des concepts nommés et aux données d'entraînement, et la plateforme Clarity affiche ces traces dans un chat. C'est de l'IA interprétable par conception, pas un ajout après coup.
Contenus associés
Découvrez des outils, des compétences et des articles liés à Guide Labs: Interpretable foundation models.
Alternatives à Guide Labs: Interpretable foundation models
Together Link
Together AI · ProgrammationTogether Link est un outil gratuit et open source de Together AI qui relie des agents de code comme Claude Code et Codex à des modèles ouverts, avec un routeur automatique et un reçu de coût par session.
HeyPi
Proactive Intelligence Ltd. · Programmation · Productivité · EntrepriseHeyPi est une plateforme de réunion IA où un assistant nommé Pi écoute l'appel, retient le contexte des séances précédentes, travaille dans vos applications connectées et construit pages, présentations et vidéos en direct.
Opposable
Reval Labs · Programmation · ProductivitéOpposable relie Claude, ChatGPT ou Codex à un téléphone Android pour qu'un agent IA ouvre des applis, lise l'écran et mène une tâche à son terme avec votre compte.