Nous Research

Hermes 패밀리는 호스팅 엔드포인트만이 아니라 내려받을 수 있는 가중치로 배포된다. 즉 자체 하드웨어에서 모델을 실행하고, 미세 조정하고, 동작을 살펴볼 수 있다. 데이터를 사내에 두어야 하는 팀에게 이는 모델을 쓰는 것과 소유하는 것의 차이다. 허가가 필요 없다.

Hermes Agent는 자체 서버와 도구 세트에서 돌아가는 자체 호스팅 프레임워크다. 세션을 넘어 지속되는 기억을 유지하고 재사용 가능한 스킬을 저장한다. 그래서 처음에 도구 호출 스무 번이 필요했던 워크플로가, 에이전트가 같은 문제를 한 번 겪고 나면 대여섯 번으로 줄어드는 일이 잦다. 여러 모델 공급업체와 연동하므로, 기반 모델을 한 업체에 묶이지 않는다.

Nous Portal은 OpenAI 호환 인터페이스로 모델에 대한 프로그래밍 방식 접근을 제공한다. OpenAI 클라이언트용으로 짜둔 코드가 이미 있는가? 전환은 대체로 베이스 URL과 키를 바꾸는 일이다. 이 경로는 자체 호스팅이 요구하는 하드웨어 설정을 건너뛴다.

이 연구소는 분산 하드웨어 간 협조 훈련을 다룬다. Psyche Network와 DisTrO 옵티마이저가 그 예로, 그래디언트를 압축하고 비동기로 갱신해 같은 데이터센터에 있지 않은 기계에도 대규모 훈련 작업을 분산한다. 실질적 이득은 노드 간 통신 부담의 감소다. 대역폭은 줄고 도달 범위는 넓어진다.

YaRN은 모델이 한 번에 다룰 수 있는 텍스트 양을 늘리는 방법이다. 널리 인용되고 다른 연구소에도 채택됐는데, 이는 그 접근이 태생을 넘어 얼마나 잘 통하는지를 말해준다. 사용자에게 긴 컨텍스트는 긴 문서나 코드 파일, 녹취록을 넣을 때 어색한 분할이 줄어든다는 뜻이다. 그렇지 않으면 잘게 쪼개야 할 것들이다.

연구 노트, 모델 카드, 훈련 세부 사항은 각 릴리스와 함께 공개된다. 외부 팀은 주장을 검증하고, 결과를 재현하고, 닫힌 문 뒤에서 무슨 일이 있었는지 추측하지 않고 구성을 다시 세울 수 있다. 결과를 마케팅 언어로만 설명하는 연구소와는 다른 태도다.