AI 모델

Kimi K3.1 Pro 가중치 공개, 내려받아도 노트북에서는 못 돌린다

문샷 AI가 11월 5일 Kimi K3.1 Pro의 가중치를 Hugging Face에 올렸다. 2.8조 파라미터 모델이라 내려받아도 개인 PC에서는 돌릴 수 없다.

김민준김민준
인기 지수: 1,150
Indigo lattice forming a hexagon to represent an open-weight model release

문샷 AI가 11월 5일 Kimi K3.1 Pro의 가중치를 Hugging Face에 올렸다. 2.8조 파라미터 모델이라 내려받아도 개인 PC에서는 돌릴 수 없다.

Kimi K3.1 Pro, 약속대로 가중치가 풀렸다

문샷 AI는 10월 24일 공개 자리에서 가중치를 내놓겠다고 예고했다. Moonshot AI open weights, 즉 누구나 내려받을 수 있는 가중치를 내놓겠다는 약속이 그때 나왔다. 예고대로 11월 5일 아시아 시간 기준으로 전체 가중치가 Hugging Face에 올라왔다. 모델 카드는 2.8조 개 파라미터를 가진 MoE 구조를 설명한다. MoE는 입력마다 일부 전문가 층만 골라 쓰는 방식으로, 토큰 하나를 처리할 때 실제로 동원되는 파라미터는 약 1,040억 개 수준이다. 여기에 104만 토큰 안팎의 문맥 창과 이미지 이해 기능이 붙는다. 규모부터 다르다.

새 베이스 모델이 아니라 K3의 후속 학습 버전

파라미터 수는 Kimi K3와 같지만 수백 개의 하위 도메인에서 강화학습 후속 학습을 크게 늘렸고, 강화학습은 모델이 시행착오를 거치며 답을 고치는 훈련 방식이라 같은 뼈대에 다른 훈련을 얹은 셈이다. 처음부터 새로 설계한 모델로 보기는 어렵다.

1M context model이라는 이름값

긴 문서를 다루는 비용을 줄이려는 설계가 눈에 띈다. 어텐션은 토큰끼리 서로를 참조하는 계산이라 문맥이 길어질수록 비용이 급격히 늘어나는데, 일부 층을 KDA 선형 어텐션과 DSA 희소 어텐션을 조합한 gated sparse attention으로 바꾸면 100만 토큰짜리 입력을 처리하는 값이 낮아진다. 계산을 전부 하는 대신 필요한 연결만 골라 보는 셈이다.

Agent Arena가 매긴 순위

외부 평가에서도 K3보다 나은 숫자가 나왔다. Arena의 Agent Arena는 Kimi K3.1 Pro(Max)를 open-weight model 가운데 1위, 전체 13위에 올렸다. 1만 7,500건이 넘는 장기 에이전트 세션을 모아 집계한 결과다. 평균 대비 개선폭은 +5.1%로, Kimi K3(Max)의 +0.9%보다 컸다. 세부 항목에서는 Bash 신뢰도가 +7.9%로 가장 크게 움직였다. K3가 같은 항목에서 -4.5%였던 것과 비교하면 방향이 바뀐 셈이다.

Moonshot이 내놓은 Terminal-Bench 4.0 성적

회사가 직접 만든 비교표도 함께 봐야 한다. 문샷 AI는 Terminal-Bench 4.0에서 65.7%를 기록했다고 밝혔다. 같은 표에서 Claude Opus 5.5는 66.4%, GPT-6 Astra는 58.2%다. 이 숫자는 벤더가 만든 표에 실린 값이므로 독립 검증으로 받아들이면 안 된다. 명령줄 작업을 얼마나 안정적으로 끝내는지 재는 시험이라는 점만 기억하면 된다.

Kimi K3.1 Pro 가중치는 5.6TB, 노트북에서는 못 돌린다

공개와 실행 사이에는 하드웨어라는 벽이 있다. BF16 기준 무게가 약 5.6TB다.

무게가 문제다.

INT4로 줄여도 1.4TB 안팎이라 RTX 4090 한 장으로는 어림없다. 데이터센터급 장비를 갖춘 연구실이나 추론 서비스 업체가 주 수요처가 된다. 화웨이는 Ascend에서 vLLM-Ascend와 SGLang으로 첫날부터 추론을 돌릴 수 있다고 밝혔다. 국내에서도 자체 GPU 클러스터를 운영하는 곳이라면 검토할 만하다. 그럼 왜 공개했을까? 가중치를 내려받을 수 있으면 자체 서버에서 돌리려는 기업과 성능을 검증하려는 연구실이 직접 쓸 수 있다. 개인 사용자와는 거리가 먼 이유다.

한국 개발자에게 이 공개가 의미하는 것

당장 앱에 붙일 모델은 아니다. API로 쓰던 사용자라면 가중치 공개 자체가 체감 변화를 만들지는 않는다. 대신 장기 에이전트 작업을 자체 서버에서 돌리려는 팀에게는 선택지가 하나 늘었다. 라이선스 조건은 모델 카드에 적힌 내용을 직접 확인해야 한다. 다음 관심사는 공개된 가중치가 실제 서비스에서 어느 정도 성능으로 재현되는지다.

내려받는 것과 돌리는 것은 다른 문제다. Kimi K3.1 Pro는 그 차이를 가장 선명하게 보여주는 사례다.

이 소식 공유하기

출처

관련 AI 뉴스

상승하는 보상 곡선과 27B 배지가 나란히 있는 터미널 창
AI 모델

DaisyRose-27B, 18일 학습으로 Terminal-Bench 4.1 점수 두 배

RadixArk가 20일 공개한 DaisyRose-27B는 새로 설계한 모델이 아니다. Qwen3.8-27B의 구조와 토크나이저, 채팅 템플릿, 이미지 이해, 256K 컨텍스트를 그대로 두고 reinforcement learning만으로 다시 훈련한 결과물이다.

인기 지수: 1,330
노트북 윤곽 안에서 세 장의 층 시트가 고리 화살표를 통과하는 그림
AI 모델

Inkling 2 Mini, 24개 층을 세 번 돌려 노트북에 올렸다

Thinking Machines Lab이 20일 open weights로 공개한 Inkling 2 Mini는 가운데 12개 층을 토큰마다 세 번 돌리는 looped transformer다. 계산은 48층만큼 하면서 저장은 24층으로 끝내고, 그 대신 외운 사실은 늘리지 않는다.

인기 지수: 1,710
어두운 배경에 길게 뻗은 청록색 오디오 파형과 주황색 강조 막대 하나
AI 모델

Rumble-2-Flash는 0.5B로 30B 전화 상담 성적을 따라잡았다

전화 상담 녹취를 글로 옮기는 일은 오래 GPU 여러 장을 전제로 했다. Reson8이 내놓은 Rumble-2-Flash는 그 전제를 0.5B 파라미터로 줄여 놓았다.

인기 지수: 560
짙은 파란 배경 위로 작은 빛 코어를 감싸 도는 세 개의 네온 고리
AI 모델

Gemini 4 Neon 공개, 구독자 선택지는 네 개로 정리됐다

구글이 Gemini 4 Neon을 내놓으면서 유료 구독자가 고를 수 있는 모델이 다시 바뀌었다. Argon에 익숙해진 사람과 3.1 Pro를 쓰던 사람은 오늘 앱을 열어 목록을 다시 봐야 한다.

인기 지수: 1,500