Guide Labs: Interpretable foundation models
Guide Labs · 程式設計 · 其他
Guide Labs 打造可解釋基礎模型。Steerling-8B 能把每一段輸出追溯到提示詞 token、可讀概念與訓練資料，Clarity 平台則讓團隊不必重新訓練就能控制模型行為。
關於 Guide Labs: Interpretable foundation models
About
Guide Labs 是什麼
Guide Labs 是一家舊金山新創，做的是思考過程看得見的語言模型。公司由 Julius Adebayo、Aya Abdelsalam Ismail 與一群來自 MIT、馬里蘭大學和 Mila 的博士在 2024 年創立。第一個公開模型 Steerling-8B 在 2026 年 2 月推出，Clarity 工作區則在同年 6 月以邀請制開放給研究者。
多數 LLM 的解釋都是事後補的。另一套工具看著完成的答案，猜哪些詞影響了結果，而這種猜測很難驗證。Adebayo 自己在 2018 年的研究就發現，幾種熱門解釋方法只要把模型權重隨機打亂，結果就完全不同。說白一點，它們量到的常常是雜訊。Guide Labs 把順序倒過來：可解釋性是訓練時的限制條件，所以每個預測天生就拆得開，對應到具名概念的貢獻。
代價是規模。Steerling-8B 有 80 億參數，訓練用了 1.35 兆個 token；官方公布的標準測試平均分數，落在訓練資料多 2 到 7 倍的開源模型區間內。它適合當成受稽核、可控制的生成基礎，不是拿來跟前沿模型比難題推理。真的需要最高品質答案的人，還是會去找更大的系統。
怎麼開始
- 在 platform.guidelabs.ai 申請 Clarity 平台使用權，或直接跳過等待，從 Hugging Face 下載開源權重。
- 用 pip install steerling 安裝套件，把模型載進自己的 GPU。
- 在 Clarity 對話視窗或套件裡送出提示詞。文字是一塊一塊產生的，不是逐個 token 冒出來。
- 點任一個區塊，打開解釋面板，就能看到提示詞 token、排序後的概念，以及這段文字背後的訓練來源。
- 把概念加進控制列，選放大或抑制，再跑一次同樣的提示詞做對照。
產品資訊
快速了解 Guide Labs: Interpretable foundation models 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- AI 安全與對齊研究者：Steerling 把概念控制攤在推論階段，不用重新訓練，很適合當轉向實驗的測試場。前提是熟悉 PyTorch，而且手上的 GPU 記憶體要撐得住 8B 模型。
- 把 LLM 功能送上線的 ML 工程師：客服機器人答錯時，你可以指出是哪個概念造成，而不是改一輪提示詞。這套流程假設你自己跑推論，或已取得平台權限。
- 受監管產業的法遵與風控團隊：訓練資料歸因留下一條線索，說明模型為什麼這樣說。它適合當審查過程裡的證據，不是法律保證。
任務
- 診斷錯誤答案：把輸出追到提示詞片段和支撐它的概念，順便分清問題出在提示詞、概念組合還是訓練資料。
- 不必重新訓練就移除不想要的行為：抑制像性別化職稱這類概念，再重跑提示詞。官方示範就是用招募相關問題做的。
- 查知識從哪來：看某段輸出被歸到哪些訓練資料，判斷它偏向維基百科、arXiv，還是 FLAN 這類指令資料。
情境
- 面向客戶的助理上線前審查：審查者在簽核前先看樣本回答的概念與來源，比讀事後熱力圖快得多。
- 資料授權與來源爭議：客戶問某個說法從哪來時，歸因能給出具體出處，而不是含糊帶過。
- 推論階段對齊研究：把上千筆安全範例換成明確的概念控制，再量測行為差在哪。
主要功能
每一塊輸出都有概念解釋
Steerling 把表徵空間拆成約 3.3 萬個監督概念、約 10 萬個自行發現的概念，再加上一個接住其餘訊號的殘差項。概念透過線性路徑影響輸出，所以每個預測都能拆成逐概念的貢獻。在 Clarity 點一段生成文字，會跳出排序清單，內容主題和語氣都包含在內，例如分析式或臨床式。
訓練資料歸因
模型會回報哪些訓練資料與剛生成的內容最接近，並依來源分組。稽核對話就是從這裡改變的：與其爭論模型有沒有背下某份文件，不如直接看被歸到哪些片段，自己判斷。這套能力建立在 Guide Labs 的 PRISM 研究上，主題是訓練資料原型。
概念控制，不用重新訓練
控制列可以在推論時放大或抑制任何概念。放大的效果有點像精心設計的提示詞；抑制才是難的那一半，因為提示詞擋不住模型。官方示範裡，抑制職稱名詞之後，一段偏向男性的電腦科學家描述就變成中性說法。
開源權重與 Python 套件
基底模型權重放在 Hugging Face，程式碼在 GitHub，套件在 PyPI。你可以在跟業務談之前，先用自己的資料測一輪。架構是因果離散擴散模型，所以控制作用在一次生成的多個 token 上，不只下一個 token。
Clarity 工作區與對照面板
Clarity 看起來就是一般聊天介面，只多一顆按鈕。對照面板會把同一個提示詞分別在有無控制的情況下各跑一次，讓你看措辭、概念和歸因資料的差別。要跟不想讀論文的人解釋這個產品，這是最快的辦法。
不靠安全資料集也能做對齊
Guide Labs 主張，對某些行為來說，抑制概念可以取代大批安全訓練範例。若目標是讓某個主題不出現在回答裡，擋掉概念比寫幾十條拒答範例直接。實際結果仍要按領域測試，因為概念標籤的範圍很寬。
優缺點
優點
- 每個預測在設計上就拆成概念貢獻，不必靠另一套工具事後猜。
- 抑制概念能處理提示詞管不住的行為，包括生成文字裡不想要的框架。
- 開源權重加上 pip 套件，簽約前就能在自己的硬體上驗證。
- 訓練資料歸因讓審查者在稽核時有具體材料可看。
缺點
- 8B 模型在困難推理與數學上仍落後前沿系統，定位偏向可控生成，不是效能頂點。
- Clarity 只走邀請制，也沒有公開定價，需要正式合約的團隊很難編預算。
- 約 13.3 萬個概念要審的量不小，真正跟你領域相關的那些還是得人工確認。
- 目前沒有公開的託管 API，要上生產環境就得自己架推論。
常見問題
Guide Labs 是一家把可解釋性寫進訓練流程的新創。它的 Steerling-8B 能把任何生成片段追到提示詞 token、具名概念和訓練資料，Clarity 平台則把這些線索放進聊天介面。這是從設計就開始的可解釋 AI，不是事後補丁。
相關內容
探索與 Guide Labs: Interpretable foundation models 相關的工具、技能與文章。
Guide Labs: Interpretable foundation models 替代方案
Base Code
Base44 (Wix) · 程式設計 · 生產力Base Code 是 Base44 推出的共享雲端開發環境。團隊在對話中描述對既有 GitHub 儲存庫的修改，看著預覽確認結果，再以 Pull Request 交回工程團隊。
Google EmbeddingGemma 2
Google DeepMind · 寫作 · 圖片 · 程式設計Google EmbeddingGemma 2 是 7.4 億參數的開源模型，能把文字、程式碼、圖片、音訊與影片畫面轉成同一個 768 維空間裡的向量，在手機與筆電上就能執行。
GitGlow
GitGlow · 程式設計 · 生產力GitGlow 是桌面版 Git 用戶端，把你自己的程式碼與 AI 代理程式的變更集中在同一份審查裡，讓你在交付前看清楚機器上究竟要送出什麼。