LFM2

LFM2는 어텐션에만 기대지 않고 짧은 합성곱과 그룹 쿼리 어텐션을 섞는다. 각 모델은 16개 블록을 쌓는다. 이중 게이트 단거리 합성곱 블록이 10개, 그룹 쿼리 어텐션이 6개다. 국소 패턴을 값싸게 잡고 어텐션은 효과가 나는 곳에만 쓴다. 이 설계가 스마트폰과 노트북에 실제로 들어가는 하드웨어에서 지연과 메모리를 낮게 유지한다.

내세우는 것은 원시 정확도가 아니라 처리량이다. Liquid AI에 따르면 LFM2는 CPU에서 디코드와 프리필이 Qwen3보다 두 배 빠르고, 더 작은 700M은 파라미터를 더 많이 지니고도 llama.cpp와 ExecuTorch 모두에서 Qwen 0.6B보다 빠르다. 이 차이는 믿을 칩이 CPU뿐인 스마트폰이나 얇은 노트북에서 크게 작용한다.

이 제품군은 파라미터 350M, 700M, 1.2B, 2.6B를 아우르므로 기기에 모델을 맞출 수 있다. 350M은 웨어러블과 빡빡한 임베디드 대상에 들어가고, 1.2B는 노트북이나 단일 GPU에서 돌며 훨씬 큰 모델과 겨룬다. 엣지용 언어 모델군인 만큼 하나의 구조로 여러 크기를 감당하니, 기능을 위아래로 옮길 때 다시 쓰지 않아도 된다.

Liquid AI에 따르면 LFM2-1.2B는 파라미터가 47% 더 많은 Qwen3-1.7B와 대등하게 맞서고, 점수는 몇 배 큰 모델에 근접한다. 700M은 Gemma 3 1B IT를 앞서고, 350M은 Qwen3-0.6B와 Llama 3.2 1B Instruct와 호각을 다툰다. 회사 자체 멀티턴 시험에서 평가자는 Llama 3.2 1B Instruct와 Gemma 3 1B IT보다 1.2B 모델을 더 선호했다.

Liquid AI는 Apache 2.0을 바탕으로 한 오픈 라이선스로 웨이트를 Hugging Face에 공개한다. 학술 및 연구 용도는 무료이고, 매출 1,000만 달러 미만 기업은 무료로 상업적으로 쓸 수 있다. 그 선을 넘으면 상업 라이선스를 위해 Liquid AI에 연락한다. 작은 팀에는 조건이 간결하게 유지되고, 대기업과의 계약 여지도 남는다.

LFM2는 개발자가 이미 쓰는 프레임워크로 내보낸다. 로컬 추론은 llama.cpp, 모바일은 ExecuTorch를 거친 PyTorch, 학습은 표준 Transformers 도구로 돈다. TRL로 하는 미세 조정도 지원되는 경로이고, GGUF 버전을 쓰면 기존 추론 앱에 모델을 쉽게 넣을 수 있다.

모든 체크포인트는 32,768 토큰짜리 컨텍스트 창을 다룬다. 긴 문서와 긴 대화에 충분한 크기다. 학습에는 10조 토큰을 썼고, 대략 영어 75%, 다국어 20%, 코드 5%로 나누었으며 일본어, 아랍어, 한국어, 스페인어, 프랑스어, 독일어에 비중을 더 뒀다. 그래서 LFM2는 여러 언어를 다루는 앱에 무리 없이 어울린다.