리퀴드 AI가 글을 쓰는 대신 단 한 번의 연산으로 답을 내놓는 오픈웨이트 결정 모델 두 종을 공개했다. 문단이 아니라 빠른 판정이 필요한 기기를 겨냥한, 결이 다른 모델이다.
리퀴드 AI가 10월 7일 오픈웨이트 결정 모델 두 종을 내놨다. 텍스트와 이미지를 읽는 d1-3B, 그리고 텍스트에 이미지나 오디오 한 가지를 곁들이는 실험판 d1-omni-600M이다. 둘 다 지금 내려받을 수 있고, 가중치는 허깅페이스에 올라와 있다. 흥미로운 건 크기가 아니다. 이 모델들은 아무것도 쓰지 않는다. 글을 쓰지 않는 모델이라니, 무슨 뜻일까?
결정 모델이란 무엇이고, 무엇이 아닌가
여러분이 써온 대부분의 AI 모델은 생성형이다. 질문을 던지면 모델이 토큰, 곧 단어 하나씩을 이어 붙여 답을 쓴다. 유연하지만 느리고 비싸다. 토큰 하나하나가 한 단계이기 때문이다.
결정 모델은 다르게 작동한다. 텍스트를 만드는 대신, 상황과 이름이 붙은 질문 묶음을 받아 타입이 정해진 답을 한 번의 전방 연산(single forward pass)으로 돌려준다. 입력을 한 번 처리하고 출력을 내놓는다는 뜻으로, 그 과정에서 토큰이 생성되지 않는다. 선택지에 점수를 매기게 하거나 이미지에 라벨을 붙이게 하면, 읽을 산문은 없고 답만 남는다.
그래서 이 모델들은 설명이 필요 없는 자리에 맞는다. 문단이 아니라 판단이 필요한 곳이다. 요청을 승인할지, 사진이 어느 범주에 속하는지, 영상 클립에 무엇이 담겼는지를 정하는 일이다. 리퀴드 AI는 d1-3B를 자사 LFM2.5-VL-3B 모델 위에, d1-omni-600M을 LFM2.5-Encoder-350M에 시각·오디오 인코더를 얹어 만들었다.
리퀴드 AI가 내세운 숫자
회사는 d1-3B가 결정지수(Decision Index) v0.2.1의 공개 분할에서 48.57점을 받았다고 밝힌다. 파라미터 100억 개 미만 모델 중 가장 높고, 자기보다 약 열두 배 큰 Decider 35B-A3B와 맞먹는다는 주장이다. 이는 리퀴드 AI가 발표와 함께 낸 자체 수치이고, 독립적으로 검증되지 않았다.
더 구체적인 건 지연 시간이다. 회사에 따르면 d1-3B는 RTX 4090 데스크톱 GPU에서 8밀리초, 젯슨 AGX 토르에서 16밀리초, 젯슨 AGX 오린에서 26밀리초, 더 작은 젯슨 오린 나노에서 50밀리초 만에 답한다. 실험판 d1-omni-600M은 같은 지수에서 15.95점을 받았는데, 회사는 이를 첫 실험 체크포인트라고 설명한다.
왜 엣지 기기를 겨냥하나
지연 시간 수치는 이 모델들이 어디서 돌도록 만들어졌는지를 가리킨다. RTX 4090은 고성능 데스크톱 카드지만, 젯슨 계열은 데이터센터를 벗어나 동작하는 기기, 곧 카메라와 로봇, 센서, 기계를 위해 만든 작고 전력이 낮은 컴퓨터 제품군이다.
그런 기기에서 밀리초 만에 답하고 텍스트를 전혀 생성하지 않는 모델은 챗 모델과 다른 제안이다. 서버로 왕복할 일도, 스트리밍 답변을 기다릴 일도, 네트워크 연결에 의존할 일도 없다. 경보를 울릴지 판단해야 하는 카메라 같은 장치에서는 스스로를 설명할 능력보다 이게 더 중요하다.
붐비는 아이디어다. 마이크로소프트도 일주일 전 자체 결정 모델인 디시전-1을 내놨고, 다른 연구소들도 빠르고 값싼 로컬 판정이라는 같은 쓰임새를 쫓는다. 리퀴드 AI의 베팅은 오픈웨이트에 작은 크기를 더한 조합이 자사 모델을 제품 안에 심는 길이라는 것이다.
여기서 오픈웨이트가 힘을 발휘한다. 회사가 d1-3B를 내려받아 자체 하드웨어에서 돌릴 수 있으면, API나 계정, 호출당 가격을 거치지 않고 특정 과제에 맞춰 시험할 수 있다. 오픈 접근의 매력이면서, 이 모델들을 직접 수익화하기 어렵게 만드는 지점이기도 하다.
아직 열려 있는 것
주장은 회사가 스스로 보고한 단일 벤치마크와, 재현이 필요한 하드웨어 수치에 기대고 있다. 결정지수는 모델이 선택을 얼마나 잘하는지 재는 시험이고, 점수는 그 시험에서 다른 모델 대비 어디에 서는지를 알려줄 뿐, 여러분의 제품이 필요로 하는 특정 판단을 어떻게 처리할지는 말해주지 않는다.
리퀴드 AI가 한 일은 가중치를 사람들이 시험해볼 수 있는 자리에 내놓은 것이다. 모델은 허깅페이스에 LiquidAI/d1-3b와 LiquidAI/d1-omni-600M으로, 문서는 docs.liquid.ai에 있다. 겨냥한 작은 기기에서 단일 연산 방식이 현장에서 통하는지는 이제 누구나 확인해볼 수 있다. 엣지 AI 시장에서 이게 진짜 범주가 될지, 그럴듯한 아이디어로 남을지를 가르는 건 그 부분이다.
