Guide Labs: Interpretable foundation models

Guide Labs란

Guide Labs는 샌프란시스코의 스타트업으로, 사고 과정이 보이는 언어 모델을 만든다. 2024년 Julius Adebayo와 Aya Abdelsalam Ismail, MIT와 메릴랜드대, Mila 출신 박사들이 창업했다. 첫 공개 모델인 Steerling-8B는 2026년 2월에 나왔고, Clarity 워크스페이스는 같은 해 6월에 초청받은 연구자에게 열렸다.

대부분의 LLM은 설명을 나중에 붙인다. 별도 도구가 완성된 답변을 보고 어떤 단어가 영향을 줬는지 짐작하는 방식이고, 그 짐작은 검증하기 어렵다. Adebayo가 2018년에 낸 연구는 인기 있는 설명 기법 여러 개가 모델 가중치를 무작위로 바꾸면 결과가 크게 달라진다는 점을 보였다. 측정하던 것이 잡음이었다는 뜻이다. Guide Labs는 순서를 뒤집는다. 해석 가능성을 학습 단계의 제약으로 넣으면, 모든 예측이 이름 붙은 개념별 기여로 처음부터 나뉜다.

대가는 규모다. Steerling-8B는 80억 파라미터이고 1.35조 토큰으로 학습했다. 회사가 공개한 표준 벤치마크 평균 점수는 2배에서 7배 많은 데이터로 학습한 오픈 모델 범위에 들어간다. 감사 가능한 통제형 생성의 기반으로는 쓸 만하지만, 어려운 추론에서 최전선 모델을 대신하지는 못한다. 최고 품질의 답이 필요하면 더 큰 시스템을 찾게 된다.

시작하는 방법

1. platform.guidelabs.ai에서 Clarity 접근을 신청하거나, 기다리지 않고 Hugging Face에서 오픈 가중치를 내려받는다.
2. pip install steerling으로 패키지를 설치하고, 보유한 GPU에 체크포인트를 올린다.
3. Clarity 채팅이나 패키지에서 프롬프트를 보낸다. 텍스트는 토큰 하나씩이 아니라 블록 단위로 나온다.
4. 아무 블록이나 클릭하면 설명 패널이 열린다. 프롬프트 토큰, 순위가 매겨진 개념, 그 조각 뒤의 학습 데이터 출처가 보인다.
5. 개념을 제어 바에 추가하고 증폭이나 억제를 고른 뒤, 같은 프롬프트를 다시 돌려 비교한다.