Guide Labs: Interpretable foundation models
Guide Labs · Programação · Outros
A Guide Labs constrói modelos fundacionais interpretáveis. O Steerling-8B rastreia cada saída até os tokens do prompt, conceitos legíveis e os dados de treinamento, e o Clarity controla o comportamento sem retreinar.
Sobre Guide Labs: Interpretable foundation models
About
O que é a Guide Labs
A Guide Labs é uma startup de São Francisco que desenvolve modelos de linguagem com a lógica à vista. Foi fundada em 2024 por Julius Adebayo, Aya Abdelsalam Ismail e uma equipe com doutorados pelo MIT, pela Universidade de Maryland e pelo Mila. O primeiro modelo lançado, o Steerling-8B, chegou em fevereiro de 2026, e o ambiente Clarity abriu em junho daquele ano para pesquisadores convidados.
Na maioria dos LLMs, a explicação vem depois. Uma ferramenta separada olha a resposta pronta e chuta quais palavras pesaram, e esses chutes são difíceis de conferir. A própria pesquisa de Adebayo em 2018 mostrou que vários métodos populares de explicabilidade mudam por completo quando o modelo recebe pesos aleatórios, ou seja, mediam ruído. A Guide Labs inverte a ordem: a interpretabilidade é uma restrição do treinamento, então cada previsão se divide em contribuições de conceitos nomeados por construção.
O preço dessa escolha é escala. O Steerling-8B tem 8 bilhões de parâmetros e foi treinado com 1,35 trilhão de tokens; a empresa relata médias em benchmarks padrão dentro da faixa de modelos abertos treinados com 2 a 7 vezes mais dados. Ele serve como base para gerar texto auditado e controlado, não para disputar com um modelo de fronteira em raciocínio difícil. Quem precisa da melhor resposta possível vai continuar recorrendo a um sistema maior.
Como começar
- Peça acesso à plataforma Clarity em platform.guidelabs.ai, ou pule a fila e baixe os pesos abertos no Hugging Face.
- Instale o pacote com pip install steerling e carregue o checkpoint na sua própria GPU.
- Envie um prompt no chat do Clarity ou pelo pacote. O texto aparece em blocos, não token por token.
- Clique em qualquer bloco para abrir o painel de explicações: você vê os tokens do prompt, os conceitos em ordem e as fontes de treinamento por trás daquele trecho.
- Adicione um conceito à barra de controle, escolha amplificar ou suprimir e repita o mesmo prompt para comparar.
Informações do produto
Uma visão rápida dos preços, das plataformas compatíveis e do desempenho de Guide Labs: Interpretable foundation models.
Ideal para
Os usuários, tarefas e cenários em que esta ferramenta se encaixa melhor.
Usuários
- Pesquisa em segurança e alinhamento
- Engenharia de ML com recursos de LLM em produção
- Conformidade e risco em setores regulados
Tarefas
- Diagnosticar uma resposta errada
- Remover comportamentos indesejados sem retreinar
- Ver de onde vem o conhecimento
Cenários
- Revisão antes de colocar um assistente no ar
- Dúvidas sobre licença e procedência de dados
- Pesquisa sobre alinhamento na inferência
Principais recursos
Explicações por conceito em cada bloco
O Steerling divide o espaço de representações em cerca de 33 mil conceitos supervisionados, uns 100 mil que ele descobre sozinho e um resíduo que captura o resto. Como os conceitos alimentam a saída por um caminho linear, cada previsão se decompõe em contribuições por conceito. Ao clicar em um bloco no Clarity, aparece uma lista ordenada com temas de conteúdo e também com tom, como analítico ou clínico.
Atribuição de dados de treinamento
O modelo informa quais dados de treinamento mais se parecem com o que acabou de escrever, agrupados por fonte. É aí que a conversa de auditoria muda: em vez de discutir se ele memorizou um documento, você olha os trechos atribuídos e julga. A Guide Labs sustenta isso no trabalho PRISM, sobre protótipos de dados de treinamento.
Controle de conceitos sem retreinar
Uma barra de controle amplifica ou suprime qualquer conceito durante a inferência. Amplificar lembra um prompt bem colocado; suprimir é o truque difícil, porque um prompt nem sempre segura o modelo. Na demo, suprimir os substantivos de papel transforma uma descrição masculinizada de cientistas da computação em uma neutra.
Pesos abertos e pacote Python
Os pesos do modelo base estão no Hugging Face, o código no GitHub e o pacote no PyPI. Dá para medir o modelo com os seus próprios dados antes de falar com o time comercial. A arquitetura é um modelo de difusão discreta causal, o que leva o controle a blocos de vários tokens e não só ao próximo.
Ambiente Clarity com painel de comparação
O Clarity parece um chat comum com um botão extra. O painel de comparação roda o mesmo prompt com e sem controle para mostrar diferenças de texto, conceitos e dados atribuídos. É o jeito mais rápido de explicar o produto para um colega que não vai ler o paper.
Alinhamento sem conjuntos de segurança
A Guide Labs defende que suprimir conceitos pode substituir grandes lotes de exemplos de segurança em certos comportamentos. Se a meta é manter um assunto fora da resposta, bloquear o conceito é mais direto do que escrever dezenas de recusas. Os resultados ainda pedem teste por domínio, porque os rótulos são amplos.
Prós e contras
Prós
- Cada previsão se divide em contribuições de conceitos por construção, sem depender de uma ferramenta externa que adivinhe.
- A supressão de conceitos cobre comportamentos que o prompt não controla, incluindo enquadramentos indesejados no texto gerado.
- Pesos abertos e pacote pip permitem testar no seu hardware antes de qualquer compromisso.
- A atribuição de dados dá aos revisores algo concreto para examinar em uma auditoria.
Contras
- O modelo de 8B fica atrás dos sistemas de fronteira em raciocínio e matemática difíceis, então combina mais com geração controlada do que com capacidade de ponta.
- O Clarity é por convite e sem preço público, o que atrapalha o orçamento de quem precisa de contrato assinado.
- Cerca de 133 mil conceitos é muita coisa para revisar, e os que importam no seu domínio ainda exigem checagem humana.
- Não há API hospedada documentada, então levar isso para produção significa montar a inferência.
Perguntas frequentes
A Guide Labs é uma startup que constrói modelos fundacionais com interpretabilidade embutida no treinamento. O modelo Steerling-8B consegue rastrear qualquer trecho gerado até os tokens do prompt, conceitos nomeados e dados de treinamento, e a plataforma Clarity mostra esse rastro em um chat. É IA interpretável desde o projeto, não um remendo depois.
Conteúdo relacionado
Explore ferramentas, skills e artigos relacionados a Guide Labs: Interpretable foundation models.
Alternativas a Guide Labs: Interpretable foundation models
Base Code
Base44 (Wix) · Programação · ProdutividadeO Base Code é um ambiente de desenvolvimento em nuvem compartilhado da Base44. O time descreve mudanças em um repositório do GitHub pelo chat, confere tudo na prévia e envia o resultado como pull request.
Google EmbeddingGemma 2
Google DeepMind · Escrita · Imagem · ProgramaçãoGoogle EmbeddingGemma 2 é um modelo aberto de 740 milhões de parâmetros que transforma texto, código, imagens, áudio e quadros de vídeo em vetores de um único espaço de 768 dimensões, rodando em celulares e notebooks.
GitGlow
GitGlow · Programação · ProdutividadeO GitGlow é um cliente Git de desktop que coloca seu código e as mudanças dos seus agentes de IA na mesma revisão, para você saber o que vai sair da máquina antes de publicar.