AI 모델

딥시크, 추론 엔진 딥인퍼 공개…절반은 열지 않았다

딥시크가 자사 서비스를 돌리는 추론 엔진 딥인퍼를 아파치 2.0으로 공개했다. 다만 절반이다. KV 캐시와 프리필·디코드 분리처럼 내부 인프라에 붙은 부분은 코드가 없다.

김민준김민준
인기 지수: 1,420
딥시크, 추론 엔진 딥인퍼 공개…절반은 열지 않았다

딥시크가 자사 서비스를 돌리는 추론 엔진 딥인퍼를 아파치 2.0으로 공개했다. 다만 절반이다. KV 캐시와 프리필·디코드 분리처럼 내부 인프라에 붙은 부분은 코드가 없다.

딥인퍼가 연 부분과 닫은 부분

저장소는 deepseek-ai/DeepInfer다. 10월 20일 공개됐고 라이선스는 아파치 2.0이다. 지금 돌릴 수 있는 모델은 딥시크-V4.1-플래시 하나이며, 주말에 나온 1017 체크포인트를 기본으로 읽는다.

하드웨어는 엔비디아 SM100(블랙웰)과 화웨이 어센드 950 NPU다. 호퍼와 그 이전 세대 엔비디아 GPU는 지원하지 않는다. 최신 엔비디아 칩과 자국산 칩만 문을 연 셈이다.

DSpark와 SWA, 속도를 뽑아내는 두 장치

핵심은 투기적 디코딩을 손본 DSpark다. 초안 모델이 한 번에 토큰 5개를 제안하면, 신뢰도 헤드가 본 모델이 받아들일 후보를 예측한다. 검증은 가능성이 높은 것만 한다. 한 단계에서 확인하는 양이 30%가량 줄고, 딥시크는 생산 부하에서 처리량이 4%에서 7% 늘어난다고 계산했다.

SWA 유계 재생도 눈에 띈다. 프롬프트 끝의 128에서 140개 토큰만 디코더에 다시 통과시키는 방식으로, 프리필 계산을 거의 절반으로 줄였다는 설명이다.

그 밖에 비동기 스케줄링, 엔비디아에서만 되는 배치 불변 추론과 결정적 샘플링, 정규식과 JSON 스키마, EBNF를 받는 구조화 출력이 들어갔다. 커널은 FlashMLA, DeepGEMM, DeepEP, TileKernels, DeepSelect와 자체 TileLang 커널로 짰다.

64장과 64장, 최소 구성의 현실

효율적으로 돌리는 최소 구성은 프리필 64장, 디코드 64장이다. GPU 128장이 출발선이라는 뜻이다. 개인이나 작은 팀이 집어 들 물건은 아니다.

딥시크가 공개한 운영 수치도 있다. 클러스터 하나가 하루 155조 토큰을 처리하고, 한가한 시간대 가격으로 환산하면 GPU 한 장당 시간당 38달러의 수익이 나온다는 계산이다. 모든 벤치마크는 엔비디아에서, 프리필 4장과 디코드 64장 구성으로 측정됐다. 어센드에서 같은 성능이 나온다는 근거는 아직 없다.

열지 않은 세 가지

KV 캐시 시스템, 프리필과 디코드의 분리 배치, 복제본 사이의 부하 분산. 이 셋은 공개되지 않았다. 딥시크는 내부 인프라와 결합이 강하다고 설명한다. 원리는 자사 블로그에 적혀 있지만 코드는 빠졌다.

2025년에 미뤘던 결정을 뒤집은 배경

딥시크는 2025년 4월 엔진 전체 공개를 미뤘다. 클러스터 관리 도구와 얽힘이 깊고, 작은 연구팀이 대형 오픈소스 프로젝트를 감당하기 어렵다는 이유였다. 대신 FlashMLA와 DeepGEMM, DeepEP 같은 부품을 하나씩 내놨다.

하드웨어 쪽 변화도 있다. 9월 30일 화웨이와 손잡고 TileLang을 어센드로 옮겼다. 블룸버그는 9월, 딥시크가 내몽골 새 데이터센터에 어센드 950DT를 최소 16만 개 들일 계획이라고 보도했다.

같은 주에 겹친 두 가지 소식

10월 19일 미국 국토안보부는 연방 민간기관에 딥시크 제품을 걷어내라고 요구했다. 기술을 여는 일과 규제로 막는 일이 같은 주에 벌어졌다.

딥시크가 연 엔진은 자사 모델에 맞춰져 있다. 다른 모델을 얹을 수 있는지, 어센드에서 어느 정도 속도가 나오는지는 검증되지 않았다. 다음 질문은 그 두 가지다.

이 소식 공유하기

출처

관련 AI 뉴스

상승하는 보상 곡선과 27B 배지가 나란히 있는 터미널 창
AI 모델

DaisyRose-27B, 18일 학습으로 Terminal-Bench 4.1 점수 두 배

RadixArk가 20일 공개한 DaisyRose-27B는 새로 설계한 모델이 아니다. Qwen3.8-27B의 구조와 토크나이저, 채팅 템플릿, 이미지 이해, 256K 컨텍스트를 그대로 두고 reinforcement learning만으로 다시 훈련한 결과물이다.

인기 지수: 1,330
노트북 윤곽 안에서 세 장의 층 시트가 고리 화살표를 통과하는 그림
AI 모델

Inkling 2 Mini, 24개 층을 세 번 돌려 노트북에 올렸다

Thinking Machines Lab이 20일 open weights로 공개한 Inkling 2 Mini는 가운데 12개 층을 토큰마다 세 번 돌리는 looped transformer다. 계산은 48층만큼 하면서 저장은 24층으로 끝내고, 그 대신 외운 사실은 늘리지 않는다.

인기 지수: 1,710
어두운 배경에 길게 뻗은 청록색 오디오 파형과 주황색 강조 막대 하나
AI 모델

Rumble-2-Flash는 0.5B로 30B 전화 상담 성적을 따라잡았다

전화 상담 녹취를 글로 옮기는 일은 오래 GPU 여러 장을 전제로 했다. Reson8이 내놓은 Rumble-2-Flash는 그 전제를 0.5B 파라미터로 줄여 놓았다.

인기 지수: 560
짙은 파란 배경 위로 작은 빛 코어를 감싸 도는 세 개의 네온 고리
AI 모델

Gemini 4 Neon 공개, 구독자 선택지는 네 개로 정리됐다

구글이 Gemini 4 Neon을 내놓으면서 유료 구독자가 고를 수 있는 모델이 다시 바뀌었다. Argon에 익숙해진 사람과 3.1 Pro를 쓰던 사람은 오늘 앱을 열어 목록을 다시 봐야 한다.

인기 지수: 1,500