앤트로픽이 경량 모델 '클로드 하이쿠 5.5'를 내놨다. 돌리는 값이 이전 버전보다 평균 75% 줄었고, 같은 날 '소넷 5.5'의 캐시 읽기 요금도 반값으로 내렸다.
하이쿠 5.5가 나온 자리
앤트로픽이 10월 7일(현지시간) 클로드 하이쿠 5.5를 공개했다. 회사는 이 모델을 "지금까지 내놓은 것 중 가장 저렴하고, 가장 빠르며, 가장 성능이 좋은 소형 모델"이라고 소개했다. 요약과 문서 분류, 데이터베이스 조회처럼 같은 일을 대량으로 반복하는 작업을 겨냥한다.
이번 발표는 클로드 5.5 라인업을 채우는 마지막 조각이다. 오퍼스 5.5가 9월 22일, 소넷 5.5가 9월 28일에 나왔고, 하이쿠 5.5가 소형 모델 자리를 맡는다. 앤트로픽은 오퍼스 5.5를 공개할 때 하이쿠 5.5가 "몇 주 안에" 나온다고 예고한 바 있다.
값은 얼마나 내려갔나
가장 눈에 띄는 변화는 가격이다. 앤트로픽은 하이쿠 5.5를 돌리는 비용이 하이쿠 4.5보다 평균 75%가량 낮다고 밝혔다. 입력 프롬프트가 10만 토큰 이하인 작업에서 특히 값이 싸다. 이 구간이 전체 사용량의 상당 부분을 차지하기 때문이다.
- 3분의 1 토막이 아니라 4분의 1 수준이다. 100달러어치를 쓰던 작업이 25달러 안팎으로 줄어드는 셈이다.
- 외부 벤치마크 사이트인 Artificial Analysis가 매긴 지능 지수는 43이다. 1년 전 하이쿠 4.5보다 26점 높다.
같은 날 소넷 5.5의 캐시 읽기 요금도 절반으로 내렸다. 백만 토큰당 0.20달러에서 0.10달러가 됐다. 캐시 읽기는 모델이 쓰는 토큰에서 큰 비중을 차지하기 때문에, 앤트로픽은 이 조치만으로 대부분의 에이전트 작업에서 소넷 5.5 비용이 20%가량 줄어든다고 설명했다.
조절 손잡이가 처음 붙었다
하이쿠 계열에서 처음으로 추론 강도를 조절하는 기능이 들어갔다. 같은 질문이라도 값이냐 정확도냐를 사용자가 고를 수 있다는 뜻이다. 오퍼스나 소넷처럼 낮은 단계에서는 값과 속도를, 높은 단계에서는 정확도를 챙기는 식이다.
문맥 창은 최대 100만 토큰까지 열린다. 회사가 공개한 평가표를 보면 컴퓨터를 직접 조작하는 OSWorld 2.1에서 72.4%를 기록했고, 명령줄에서 여러 단계 작업을 처리하는 Terminal-Bench 4.0에서는 39.2%를 냈다. 전자는 소형 모델치고 높은 편이고, 후자는 소넷·오퍼스보다 낮다.
누구에게 유리한가
그렇다면 하이쿠 5.5는 누구에게 유리할까. 하이쿠 5.5는 만능 모델이 아니다. 앤트로픽 스스로 복잡한 에이전트 코딩에는 소넷 5.5와 오퍼스 5.5가 낫다고 선을 그었다. 대신 이전에는 값이 부담돼 손대지 못했던 작업, 그러니까 대량 요약이나 문서 압축, 상위 모델을 돕는 하위 에이전트 자리에 맞춘 모델이다.
- 고객 응대 챗봇처럼 응답 속도가 중요한 곳
- 웹사이트를 대신 눌러주는 브라우저 자동화
- 수많은 문서를 돌려야 하는 내부 처리 파이프라인
클로드 맥스 5x 이용자는 매달 100달러, 20x는 200달러어치 API 크레딧을 받는다. 팀 요금제는 사용자 전체를 합쳐 최대 500달러까지 준다. 값만 내린 게 아니라 API를 직접 쓰는 사람에게 실험 재료를 얹어준 셈이다.
지금 쓸 수 있다
하이쿠 5.5는 클로드 플랫폼을 비롯해 아마존웹서비스, 구글 클라우드, 마이크로소프트 애저에서 바로 쓸 수 있다. 기존에 하이쿠 4.5를 쓰던 개발자라면 모델 이름과 파라미터를 바꾸는 것만으로 갈아탈 수 있다. 이전 모델을 끌어다 쓰던 서비스라면 비용을 다시 계산해볼 시점이다.
