중국 채용 플랫폼 BOSS직핀 산하 연구소가 아파치 2.0 라이선스로 33B 덴스 모델을 공개했다. 512K 컨텍스트와 터미널 작업 성능을 앞세우지만, 모든 점수는 자체 측정이고 표에는 앞뒤가 맞지 않는 숫자도 섞여 있다.
Nanbeige4.3-33B는 어떤 모델인가
Nanbeige LLM Lab이 10월 25일 허깅페이스에 Nanbeige4.3-33B를 올렸다. 라이선스는 아파치 2.0이고, 같은 날 직접 파인튜닝할 수 있는 베이스 모델도 함께 공개됐다. 연구소는 중국 채용 플랫폼 BOSS직핀 안에서 모델을 만드는 조직이다.
구조는 표준적인 Llama 계열이다. 52개 층에 은닉 차원 7,168, 어텐션은 쿼리 헤드 56개와 KV 헤드 8개를 쓰는 GQA 방식이다. 어휘 크기는 166,912다. 특이한 설계를 넣기보다 검증된 구성을 그대로 따른 모델이다.
33B 덴스와 MoE는 무엇이 다른가
이 모델의 첫 번째 특징은 덴스 방식이라는 점이다. 최근 30B급 공개 모델 상당수는 MoE 방식을 쓴다. 전체 파라미터 가운데 일부 전문가만 골라 계산하는 구조로, 같은 크기에서 더 빠르고 저렴하다.
덴스 모델은 토큰 하나를 처리할 때 모든 파라미터를 통과시킨다. 계산량이 많고 메모리도 더 필요하다. 대신 동작이 단순하고 예측하기 쉬우며, 파인튜닝 결과가 안정적이라는 평가를 받는다. 회사가 에이전트 작업을 겨냥해 덴스를 택한 이유도 여기에 있을 것으로 보인다.
512K 컨텍스트는 문서 몇 개까지 담나
컨텍스트 창은 524,288토큰, 곧 512K다. 계약서나 코드 저장소를 통째로 넣고 작업할 수 있는 규모다. 에이전트가 여러 파일을 오가며 고치는 작업에서는 파일을 다시 읽는 횟수가 줄어든다.
대가는 메모리다. 모델 가중치가 BF16 기준 66GB이고, 긴 문맥을 유지하려면 KV 캐시가 추가로 필요하다. 토큰당 약 208KiB가 붙어, 512K를 꽉 채우면 112GB 안팎이 더 든다. 이 조합은 소비자용 그래픽카드 한 장으로 감당할 수 있는 수준이 아니다.
자체 벤치마크가 내세운 숫자
회사는 20개 항목 가운데 17개에서 앞섰다고 밝혔다. 비교 대상은 Qwen3.8-27B, 뮤즈글리머-30B, 젬마4-31B이고, 모두 최고 사고 강도로 돌린 결과다. 명령줄 작업을 재는 터미널벤치 2.1에서는 80.9를 기록했다. Qwen3.8-27B는 73.0이다.
코딩 에이전트 성능을 보는 DeepSWE에서는 65.5로, 비교군의 42.5를 크게 앞선다. 반복 업무 자동화를 재는 Automation Bench는 54.2, 직무별 작업을 보는 JobBench는 44.8이다. 수학 문제 세트인 AIME 2026에서는 95.2가 나왔다.
이 수치는 모두 회사가 공개한 표에서 나온 것이다. 외부 기관이 같은 조건에서 다시 돌린 결과는 아직 없다. 하네스(모델을 평가하는 실행 환경)가 다르면 점수가 달라지므로, 절대값보다 같은 표 안에서의 상대 비교로 읽어야 한다.
뒤처진 항목도 같이 봐야 한다
회사 표에도 진 항목이 있다. 실제 저장소에서 버그를 고치는 SWE-Bench Pro에서는 60.3으로 Qwen3.8-27B의 61.7에 밀렸다. 일반 업무 산출물을 평가하는 GDPval도 84.8로, 비교군의 86.4보다 낮다.
터미널벤치 4.0에서는 23.8에 그쳤다. 자체 표 안에서 가장 낮은 점수다. 같은 회사가 터미널벤치 2.1에서는 80.9를 내세웠는데, 4.0에서는 완전히 다른 그림이 나온다. 버전이 다르고 난이도도 다르지만, 두 숫자를 나란히 보면 모델의 강점이 어디까지인지 가늠하기 어려워진다.
벤치마크 표에 섞인 오류
표에는 단순한 실수로 보이는 항목도 있다. Nanbeige는 메타의 뮤즈글리머-30B와 젬마4-31B의 SWE-Bench Pro 점수를 서로 바꿔 적었다. 메타가 공개한 값은 51.2와 36.9인데, 표에는 순서가 뒤집혀 들어갔다.
GPQA Diamond 항목도 어긋난다. Nanbeige는 젬마4-31B를 91.3으로 적었지만, 구글 공식 자료는 84.3이다. 평가 도구가 다르면 점수가 갈릴 수 있다. 그렇다면 이 표를 어떻게 읽어야 하나? 같은 조건에서 다시 돌린 결과가 나오기 전까지는 순위보다 경향만 참고하는 편이 안전하다. 두 모델의 순서가 뒤바뀐 줄은 하네스 차이로 설명하기 어렵다.
교사 모델을 먼저 만든 이유
Nanbeige는 이 모델을 계열의 교사 모델로 규정했다. 강한 33B 에이전트를 먼저 만들고, 그 결과를 곧 나올 Nanbeige4.3-3B에 증류하겠다는 계획이다. 증류는 큰 모델의 출력을 학습 데이터로 삼아 작은 모델을 훈련하는 방식이다.
이 순서에는 이유가 있다. 작은 모델은 처음부터 에이전트 행동을 익히기 어렵다. 대신 잘 훈련된 큰 모델의 판단 과정을 모방하게 하면, 같은 작업을 훨씬 적은 파라미터로 처리할 수 있다. 3B 모델이 실제로 나왔을 때 33B의 성능을 얼마나 유지하는지가 이 전략의 성적표가 된다.
실제로 돌리려면 필요한 장비
모델 카드에는 트랜스포머, SGLang, vLLM 실행 방법이 정리돼 있다. 예시는 4분할 텐서 병렬을 전제로 한다. 에이전트 작업에는 온도 1.0과 top_p 0.95, 새 토큰 65,536을 권한다. 일반 대화에는 온도 0.6과 262,144를 쓴다.
현실적인 대안은 양자화다. 커뮤니티가 올린 Q8 GGUF는 35.2GB 수준이고, KV 캐시를 32K로 줄이면 48GB 그래픽카드 한 장에서 돌릴 수 있다는 보고가 있다. 512K 문맥을 그대로 쓰려면 서버급 구성이 필요하다. 공개 시점에 허깅페이스에서 이 모델을 호스팅하는 추론 사업자는 없었다.
어떤 팀에 맞는 선택인가
터미널과 코드 편집을 오가며 여러 단계를 스스로 처리하는 에이전트를 직접 돌리려는 팀에 맞는다. 가중치가 열려 있어 사내 환경에 맞춰 파인튜닝할 수 있고, 라이선스 제약도 적다. 긴 문서를 통째로 넣는 작업도 장점이다.
반대로 적은 비용으로 빠른 응답이 필요한 서비스라면 아직 무겁다. MoE 모델이나 호스팅 API를 쓰는 편이 낫다. 이 모델의 진짜 가치는 다음에 나올 3B 모델이 33B의 능력을 얼마나 압축하느냐에 달려 있다. 그때까지는 자체 점수와 실제 사용감 사이의 간격을 확인하는 일이 먼저다.
