Guide Labs: Interpretable foundation models
Guide Labs · Coding · Sonstiges
Guide Labs entwickelt interpretierbare Foundation-Modelle. Steerling-8B führt jede Ausgabe auf Prompt-Tokens, lesbare Konzepte und Trainingsdaten zurück, und Clarity steuert das Verhalten ohne neues Training.
Über Guide Labs: Interpretable foundation models
About
Was ist Guide Labs
Guide Labs ist ein Startup aus San Francisco, das Sprachmodelle baut, deren Denkweg sichtbar bleibt. Gegründet wurde das Unternehmen 2024 von Julius Adebayo, Aya Abdelsalam Ismail und einem Team mit Abschlüssen vom MIT, der University of Maryland und Mila. Das erste veröffentlichte Modell, Steerling-8B, erschien im Februar 2026, der Arbeitsbereich Clarity öffnete im Juni desselben Jahres für eingeladene Forschende.
Bei den meisten LLMs kommt die Erklärung im Nachhinein. Ein separates Werkzeug betrachtet die fertige Antwort und rät, welche Wörter eine Rolle gespielt haben, und solche Vermutungen lassen sich schwer prüfen. Adebayos eigene Arbeit von 2018 zeigte, dass mehrere verbreitete Erklärungsmethoden völlig anders aussehen, sobald man die Gewichte des Modells zufällig setzt. Sie maßen also oft nur Rauschen. Guide Labs dreht die Reihenfolge um: Interpretierbarkeit ist eine Bedingung beim Training, deshalb zerfällt jede Vorhersage von vornherein in Beiträge benannter Konzepte.
Der Preis dafür ist die Größe. Steerling-8B hat 8 Milliarden Parameter und wurde mit 1,35 Billionen Tokens trainiert; das Unternehmen nennt Durchschnittswerte in Standard-Benchmarks, die im Bereich offener Modelle mit zwei- bis siebenfach größerem Datenvolumen liegen. Damit taugt es als Basis für geprüfte, kontrollierte Textgenerierung, nicht als Ersatz für ein Spitzenmodell bei schwierigem Schlussfolgern. Wer die bestmögliche Antwort braucht, greift weiterhin zu einem größeren System.
So starten Sie
- Fordern Sie Zugang zur Clarity-Plattform unter platform.guidelabs.ai an, oder überspringen Sie die Warteliste und laden Sie die offenen Gewichte von Hugging Face.
- Installieren Sie das Paket mit pip install steerling und laden Sie den Checkpoint auf Ihre eigene GPU.
- Senden Sie einen Prompt im Clarity-Chat oder über das Paket. Der Text erscheint in Blöcken, nicht Token für Token.
- Klicken Sie auf einen Block, um das Erklärungsfenster zu öffnen: Sie sehen Prompt-Tokens, sortierte Konzepte und die Trainingsquellen hinter diesem Abschnitt.
- Legen Sie ein Konzept in die Steuerleiste, wählen Sie Verstärken oder Unterdrücken, und lassen Sie denselben Prompt erneut laufen, um zu vergleichen.
Produktinformationen
Ein kurzer Überblick über Preise, unterstützte Plattformen und die Leistung von Guide Labs: Interpretable foundation models.
Am besten für
Die Nutzer, Aufgaben und Szenarien, für die dieses Tool am besten passt.
Nutzer
- Forschung zu Sicherheit und Alignment
- ML-Engineers mit LLM-Funktionen im Produkt
- Compliance- und Risikoteams in regulierten Branchen
Aufgaben
- Eine falsche Antwort eingrenzen
- Unerwünschtes Verhalten ohne neues Training abstellen
- Die Herkunft von Wissen prüfen
Szenarien
- Prüfung vor dem Livegang eines Kundenassistenten
- Fragen zu Lizenzen und Datenherkunft
- Forschung zu Alignment zur Inferenzzeit
Wichtigste Funktionen
Konzepterklärungen für jeden Block
Steerling teilt seinen Repräsentationsraum in rund 33.000 überwachte Konzepte, etwa 100.000 selbst entdeckte Konzepte und einen Rest, der alles Übrige aufnimmt. Weil die Konzepte über einen linearen Pfad in die Ausgabe fließen, zerfällt jede Vorhersage in Beiträge pro Konzept. Ein Klick auf einen Block in Clarity zeigt eine sortierte Liste, die Inhaltsthemen und auch Tonalität abdeckt, etwa analytisch oder klinisch.
Zuordnung der Trainingsdaten
Das Modell meldet, welche Trainingsdaten dem gerade erzeugten Text am nächsten liegen, gruppiert nach Quelle. Genau hier ändert sich das Prüfgespräch: Statt darüber zu streiten, ob ein Dokument auswendig gelernt wurde, sehen Sie sich die zugeordneten Abschnitte an und urteilen selbst. Guide Labs stützt das auf die PRISM-Arbeit zu Prototypen von Trainingsdaten.
Konzeptsteuerung ohne neues Training
Eine Steuerleiste verstärkt oder unterdrückt jedes Konzept zur Laufzeit. Verstärken wirkt ähnlich wie ein gut gesetzter Prompt, Unterdrücken ist der schwierigere Teil, weil ein Prompt das Modell nicht zuverlässig bremst. In der Demo macht das Unterdrücken von Rollenbezeichnungen aus einer männlich gefärbten Beschreibung von Informatikern eine neutrale Formulierung.
Offene Gewichte und Python-Paket
Die Gewichte des Basismodells liegen bei Hugging Face, der Code auf GitHub, das Paket auf PyPI. Sie können es also mit eigenen Daten messen, bevor Sie mit dem Vertrieb sprechen. Die Architektur ist ein kausales diskretes Diffusionsmodell, dadurch greift die Steuerung an Blöcken aus mehreren Tokens und nicht nur am nächsten Token.
Clarity mit Vergleichsfenster
Clarity sieht aus wie ein normaler Chat mit einer zusätzlichen Taste. Das Vergleichsfenster startet denselben Prompt mit und ohne Steuerung und zeigt Unterschiede in Formulierung, Konzepten und zugeordneten Daten. Schneller lässt sich das Produkt einer Kollegin nicht erklären, die das Paper nicht lesen will.
Alignment ohne Sicherheitsdatensätze
Guide Labs argumentiert, dass Konzeptunterdrückung für manche Verhaltensweisen große Sammlungen von Sicherheitsbeispielen ersetzt. Wenn ein Thema aus der Antwort herausbleiben soll, ist das Blockieren des Konzepts direkter, als Dutzende Ablehnungen zu schreiben. Ergebnisse brauchen trotzdem Tests pro Domäne, weil die Konzeptlabels breit sind.
Vor- und Nachteile
Vorteile
- Jede Vorhersage zerfällt konstruktionsbedingt in Konzeptbeiträge, ohne Werkzeug, das im Nachhinein rät.
- Konzeptunterdrückung erfasst Verhalten, das Prompts nicht zuverlässig steuern, auch unerwünschte Framings im erzeugten Text.
- Offene Gewichte und das pip-Paket erlauben Tests auf eigener Hardware, bevor Sie sich binden.
- Die Zuordnung der Trainingsdaten gibt Prüfern etwas Konkretes an die Hand.
Nachteile
- Das 8B-Modell bleibt bei schwerem Schlussfolgern und Mathematik hinter Spitzensystemen zurück, es passt also eher zu kontrollierter Generierung als zu maximaler Leistung.
- Clarity ist nur auf Einladung verfügbar und hat keine öffentlichen Preise, was die Planung für Teams mit Vertragsbedarf erschwert.
- Rund 133.000 Konzepte sind viel Prüfarbeit, und die relevanten für Ihre Domäne brauchen weiterhin einen menschlichen Blick.
- Eine gehostete API ist nicht dokumentiert, für den Produktivbetrieb müssen Sie die Inferenz also selbst aufsetzen.
Häufige Fragen
Guide Labs ist ein Startup, das Foundation-Modelle baut, bei denen Interpretierbarkeit Teil des Trainings ist. Das Modell Steerling-8B kann jeden erzeugten Abschnitt auf Prompt-Tokens, benannte Konzepte und Trainingsdaten zurückführen, und die Clarity-Plattform zeigt diese Spuren in einer Chat-Oberfläche. Das ist interpretierbare KI von Anfang an, kein nachträglicher Zusatz.
Ähnliche Inhalte
Entdecke passende Tools, Skills und Artikel zu Guide Labs: Interpretable foundation models.
Alternativen zu Guide Labs: Interpretable foundation models
Base Code
Base44 (Wix) · Coding · ProduktivitätBase Code ist eine geteilte Cloud-Entwicklungsumgebung von Base44. Das Team beschreibt Änderungen an einem bestehenden GitHub-Repository im Chat, prüft sie in der Vorschau und reicht sie als Pull Request ein.
Google EmbeddingGemma 2
Google DeepMind · Schreiben · Bilder · CodingGoogle EmbeddingGemma 2 ist ein offenes Modell mit 740 Millionen Parametern, das Text, Code, Bilder, Audio und Videobilder in Vektoren eines gemeinsamen 768-dimensionalen Raums umwandelt und auf Handys und Notebooks läuft.
GitGlow
GitGlow · Coding · ProduktivitätGitGlow ist ein Git-Client für den Desktop, der Ihren Code und die Änderungen Ihrer KI-Agenten in einer Review bündelt, damit Sie vor dem Ausliefern sehen, was die Maschine verlässt.