Guide Labs: Interpretable foundation models
Guide Labs · Programación · Otro
Guide Labs construye modelos fundacionales interpretables. Steerling-8B rastrea cada salida hasta los tokens del prompt, conceptos legibles y los datos de entrenamiento, y Clarity deja controlar el comportamiento sin reentrenar.
Acerca de Guide Labs: Interpretable foundation models
About
Qué es Guide Labs
Guide Labs es una startup de San Francisco que desarrolla modelos de lenguaje con la lógica a la vista. La fundaron en 2024 Julius Adebayo, Aya Abdelsalam Ismail y un equipo con doctorados del MIT, la Universidad de Maryland y Mila. Su primer modelo publicado, Steerling-8B, salió en febrero de 2026, y el espacio de trabajo Clarity abrió en junio de ese año para investigadores con invitación.
En casi todos los LLM la explicación llega después. Una herramienta aparte mira la respuesta terminada y supone qué palabras influyeron, y esas suposiciones cuesta verificarlas. La propia investigación de Adebayo en 2018 mostró que varios métodos populares de explicación cambian por completo al azarizar el modelo, o sea que medían ruido. Guide Labs invierte el orden: la interpretabilidad es una restricción del entrenamiento, así que cada predicción se reparte en aportes de conceptos con nombre por construcción.
El precio de esa decisión es la escala. Steerling-8B tiene 8.000 millones de parámetros y se entrenó con 1,35 billones de tokens; la empresa reporta puntuaciones medias en pruebas estándar dentro del rango de modelos abiertos entrenados con entre 2 y 7 veces más datos. Sirve como base para generar texto auditado y controlado, no para competir con un modelo de frontera en razonamiento difícil. Quien necesite la mejor respuesta posible seguirá usando un sistema más grande.
Cómo empezar
- Pide acceso a la plataforma Clarity en platform.guidelabs.ai, o salta la espera y descarga los pesos abiertos desde Hugging Face.
- Instala el paquete con pip install steerling y carga el checkpoint en tu propia GPU.
- Envía un prompt desde el chat de Clarity o con el paquete. El texto aparece por bloques, no token a token.
- Haz clic en cualquier bloque para abrir el panel de explicaciones: verás los tokens del prompt, los conceptos ordenados y las fuentes de entrenamiento detrás de ese fragmento.
- Agrega un concepto a la barra de control, elige amplificar o suprimir y repite el mismo prompt para comparar.
Información del producto
Un vistazo rápido a los precios, las plataformas compatibles y el rendimiento de Guide Labs: Interpretable foundation models.
Ideal para
Los usuarios, tareas y casos de uso en los que esta herramienta encaja mejor.
Usuarios
- Investigación en seguridad y alineación
- Ingeniería de ML con funciones de LLM en producción
- Cumplimiento y riesgo en sectores regulados
Tareas
- Diagnosticar una respuesta equivocada
- Quitar conductas no deseadas sin reentrenar
- Ver de dónde sale el conocimiento
Casos de uso
- Revisión antes de desplegar un asistente de cara al cliente
- Dudas de licencias y procedencia de datos
- Investigación sobre alineación en inferencia
Funciones clave
Explicaciones por concepto para cada bloque
Steerling parte su espacio de representaciones en unos 33.000 conceptos supervisados, cerca de 100.000 que descubre sola y un residuo que recoge el resto. Como los conceptos alimentan la salida por una vía lineal, cada predicción se descompone en aportes por concepto. Al hacer clic en un bloque de Clarity aparece una lista ordenada con temas de contenido y también con tono, por ejemplo analítico o clínico.
Atribución de datos de entrenamiento
El modelo informa qué datos de entrenamiento se parecen más a lo que acaba de escribir, agrupados por fuente. Ahí cambia la conversación de auditoría: en lugar de discutir si memorizó un documento, miras los fragmentos atribuidos y lo juzgas. Guide Labs apoya esto en su trabajo PRISM sobre prototipos de datos.
Control de conceptos sin reentrenar
Una barra de control amplifica o suprime cualquier concepto durante la inferencia. Amplificar se parece a un prompt bien puesto; suprimir es el truco difícil, porque un prompt no siempre frena al modelo. En la demo, suprimir los sustantivos de rol convierte una descripción masculinizada de las personas informáticas en una neutra.
Pesos abiertos y paquete de Python
Los pesos del modelo base están en Hugging Face, el código en GitHub y el paquete en PyPI. Puedes medirlo con tus propios datos antes de hablar con ventas. La arquitectura es un modelo de difusión discreta causal, lo que lleva el control a bloques de varios tokens y no solo al siguiente.
Espacio de trabajo Clarity con panel de comparación
Clarity se ve como un chat normal con un botón extra. El panel de comparación lanza el mismo prompt con y sin control para ver diferencias de redacción, conceptos y datos atribuidos. Es la vía más rápida para explicarle el producto a un colega que no va a leer el paper.
Alineación sin conjuntos de seguridad
Guide Labs sostiene que suprimir conceptos puede sustituir grandes lotes de ejemplos de seguridad en ciertas conductas. Si el objetivo es mantener un tema fuera de la respuesta, bloquear el concepto es más directo que escribir decenas de negativas. Los resultados piden pruebas por dominio, porque las etiquetas son amplias.
Ventajas y desventajas
Ventajas
- Cada predicción se reparte en aportes de conceptos por construcción, sin depender de una herramienta externa que adivine.
- Suprimir conceptos cubre conductas que un prompt no controla, incluido el encuadre indeseado en el texto generado.
- Los pesos abiertos y el paquete de pip dejan probar en tu hardware antes de cualquier compromiso.
- La atribución de datos da a los revisores algo concreto que mirar en una auditoría.
Desventajas
- El modelo de 8B queda atrás de los sistemas de frontera en razonamiento y matemáticas difíciles, así que encaja en generación controlada más que en capacidad punta.
- Clarity funciona por invitación y sin precios públicos, lo que complica el presupuesto a un equipo que necesita contrato.
- Unos 133.000 conceptos son muchos para revisar, y los que importan en tu dominio exigen comprobación humana.
- No hay API alojada documentada, así que llevar esto a producción implica montar la inferencia.
Preguntas frecuentes
Guide Labs es una startup que construye modelos fundacionales con la interpretabilidad metida en el entrenamiento. Su modelo Steerling-8B puede rastrear cualquier fragmento generado hasta los tokens del prompt, conceptos con nombre y datos de entrenamiento, y la plataforma Clarity muestra ese rastro en un chat. Es IA interpretable desde el diseño, no un parche posterior.
Contenido relacionado
Explora herramientas, habilidades y artículos relacionados con Guide Labs: Interpretable foundation models.
Alternativas a Guide Labs: Interpretable foundation models
Base Code
Base44 (Wix) · Programación · ProductividadBase Code es un entorno de desarrollo en la nube compartido de Base44. El equipo describe cambios sobre un repositorio de GitHub en el chat, los ve en una vista previa y los envía como pull requests.
Google EmbeddingGemma 2
Google DeepMind · Escritura · Imagen · ProgramaciónGoogle EmbeddingGemma 2 es un modelo abierto de 740 millones de parámetros que convierte texto, código, imágenes, audio y fotogramas de vídeo en vectores de un mismo espacio de 768 dimensiones, y funciona en móviles y portátiles.
GitGlow
GitGlow · Programación · ProductividadGitGlow es un cliente Git de escritorio que reúne tu código y los cambios de tus agentes de IA en una sola revisión, para que sepas qué va a salir de tu máquina antes de publicarlo.