AI 모델

Perplexity Decider v1.3 공개, 확률로 답하는 27B 분류 모델

퍼플렉시티가 공개한 Decider v1.3은 문장을 만들지 않는다. 문서 하나에 질문 여러 개를 던지면 각 질문에 확률을 붙여 한 번에 돌려준다.

김민준김민준
인기 지수: 1,150
어두운 배경 위 청록색 확률 히스토그램 옆의 Decider v1.3 문구

퍼플렉시티가 공개한 Decider v1.3은 문장을 만들지 않는다. 문서 하나에 질문 여러 개를 던지면 각 질문에 확률을 붙여 한 번에 돌려준다.

Perplexity Decider는 챗봇이 아니다

겉은 언어 모델이지만 하는 일은 분류다. Decider는 예냐 아니오냐, 객관식, 점수 질문에 대해 선택지별 확률 분포를 낸다. 문서를 한 번 읽고 질문 전부를 동시에 처리하므로 상담 티켓 하나에 "결제 문의인가, 급한가, 사람이 붙어야 하나"를 세 번 묻지 않아도 된다. 호출 세 번이 한 번이 되는 차이가 라우팅 비용을 바꾼다. 문장을 생성하지 않으니 출력 토큰도 없다. 분류 모델이 생성 모델보다 싼 이유가 여기에 있다.

Decider v1.3의 변경: 질문끼리 서로를 보지 않는다

v1.3의 설계 변경은 어텐션에 있다. 어텐션은 모델이 문장 안에서 어느 대목에 주목할지 정하는 장치다. 공유 상태는 모든 질문을 보지만 각 질문은 상태와 자기 자신만 본다. 질문이 서로의 답을 흔들지 않게 만든 구조다. 퍼플렉시티는 이 변경으로 레이블과 형식을 바꿔도 답이 뒤집히는 비율이 0.27%로 떨어졌다고 밝혔다. 같은 문서에 질문을 더 붙여도 앞의 답이 흔들리지 않는다는 뜻이다.

open-weight classifier: Apache 2.0, 27B와 4B

가중치는 허깅페이스에 Apache 2.0으로 올라갔고 Decisions API와 OpenRouter로도 쓸 수 있다. 큰 모델은 Qwen3.8-27B를 개조한 27B, Flash는 그 모델을 증류한 4B다. 다만 허깅페이스 표기는 26B와 5B로 발표문 숫자와 조금 다르다.

decision models의 성적표는 모두 자체 측정이다

퍼플렉시티는 질의 분류 63개 과제에서 평균 정확도 91.6%를 기록했다고 밝혔다. 자사 운영 분류기보다 6.54점 높은 수치다. 검색과 재정렬 72개 과제에서는 nDCG@10 평균 83.99를 냈고, 도메인 분류 7개 세트에서는 TypeSafe의 Jev 1.14를 모두 앞섰다. 금융에서 최대 12.9점 차이다. 이 숫자는 전부 자체 측정이고 외부 검증은 없다. 같은 표에서 Flash는 금융과 프로그래밍, 법률에서 Jev에 뒤진다. 퍼플렉시티는 이 모델 계열이 TypeSafe의 Jev에서 영감을 받았다고 밝혔다.

Locate와 비용: 100만 토큰 2센트, 49GiB

Locate는 새로 붙은 구간 추출기다. 문서에서 이름이나 인용문 같은 조각을 잘라내는 모델이고, 결과를 문자 위치로 돌려준다. 요청당 질문을 128개까지 받는다. 특수 토큰과 구간 헤드, LoRA 어댑터를 얹은 구조이며 어댑터를 합치면 일반 판정이 나빠져서 합치지 않고 따로 둔다. 평균 점수 69.0으로 이번 묶음에서 가장 낮다. 가격은 입력 100만 토큰에 2센트, Flash는 1센트이고 출력은 무료다. 직접 돌리려면 BF16 기준 49GiB가 필요하고 Flash는 8.5GiB다. 80GB급 GPU 한 장에 들어가지만 여유는 크지 않다. 양자화 버전은 없다. 가중치가 무료라는 말과 서비스가 무료라는 말은 다르다. 직접 돌리는 쪽은 GPU 값을 내고, API를 쓰는 쪽은 토큰당 과금을 낸다.

라우팅과 보안 규칙에 쓰이는 decision models

퍼플렉시티는 이 모델을 보안 규칙 발굴과 강화학습 롤아웃 감시, 페이지 품질 필터에 쓴다. 하루에 토큰 10억 개를 7000개 에이전트 세션에서 읽어 규칙 수정 14건을 찾았고 그중 6건을 이틀 안에 배포했다. 같은 주에 구글의 Gemini Decision 1도 나왔지만 별개의 발표이고 이번 묶음에 포함된 것이 아니다.

그럼 국내 기업은 어디에 붙일 수 있을까? 판정 기준이 명확한 반복 업무가 먼저다. 상담 분류나 약관 검수처럼 답이 정해진 일부터 붙여 볼 만하다. 국내 커머스와 금융 상담 센터는 이미 의도 분류 모델을 쓴다. Decider가 눈에 띄는 이유는 가중치가 공개돼 결과를 직접 대조할 수 있다는 점이다. 정확도가 자체 측정이라는 점은 계약 전에 확인해야 한다.

이 소식 공유하기

출처

관련 AI 뉴스

상승하는 보상 곡선과 27B 배지가 나란히 있는 터미널 창
AI 모델

DaisyRose-27B, 18일 학습으로 Terminal-Bench 4.1 점수 두 배

RadixArk가 20일 공개한 DaisyRose-27B는 새로 설계한 모델이 아니다. Qwen3.8-27B의 구조와 토크나이저, 채팅 템플릿, 이미지 이해, 256K 컨텍스트를 그대로 두고 reinforcement learning만으로 다시 훈련한 결과물이다.

인기 지수: 1,330
노트북 윤곽 안에서 세 장의 층 시트가 고리 화살표를 통과하는 그림
AI 모델

Inkling 2 Mini, 24개 층을 세 번 돌려 노트북에 올렸다

Thinking Machines Lab이 20일 open weights로 공개한 Inkling 2 Mini는 가운데 12개 층을 토큰마다 세 번 돌리는 looped transformer다. 계산은 48층만큼 하면서 저장은 24층으로 끝내고, 그 대신 외운 사실은 늘리지 않는다.

인기 지수: 1,710
어두운 배경에 길게 뻗은 청록색 오디오 파형과 주황색 강조 막대 하나
AI 모델

Rumble-2-Flash는 0.5B로 30B 전화 상담 성적을 따라잡았다

전화 상담 녹취를 글로 옮기는 일은 오래 GPU 여러 장을 전제로 했다. Reson8이 내놓은 Rumble-2-Flash는 그 전제를 0.5B 파라미터로 줄여 놓았다.

인기 지수: 560
짙은 파란 배경 위로 작은 빛 코어를 감싸 도는 세 개의 네온 고리
AI 모델

Gemini 4 Neon 공개, 구독자 선택지는 네 개로 정리됐다

구글이 Gemini 4 Neon을 내놓으면서 유료 구독자가 고를 수 있는 모델이 다시 바뀌었다. Argon에 익숙해진 사람과 3.1 Pro를 쓰던 사람은 오늘 앱을 열어 목록을 다시 봐야 한다.

인기 지수: 1,500