런던의 Fractile이 7억2000만달러를 조달했다. 올해 5월 11억달러였던 회사 값은 반년 만에 70억달러 안팎으로 뛰었다. 이 회사가 파는 것은 칩이 아니라 추론 비용을 낮출 수 있다는 주장이다.
Fractile funding, 7억2000만달러 시리즈C
테크크런치는 11일 프랙타일이 7억2000만달러 규모 시리즈C를 마감했다고 보도했다. 라운드는 스라이브캐피털과 파운더스펀드, 라이트스피드, 레드포인트가 이끌었다. 영국 정부의 소버린 AI 펀드도 이 라운드에 참여했다.
숫자보다 눈에 띄는 것은 속도다. 더넥스트웹은 이 회사의 기업가치가 5월 11억달러에서 11월 70억달러로 올랐다고 전했다. 반년 만에 여섯 배가 넘는 값이 붙은 셈이다.
Fractile valuation, 정부와 신문이 다른 숫자를 말한다
영국 정부는 이 회사의 값을 "50억파운드 이상"이라고 표현했다. 파이낸셜타임스와 로이터가 인용한 소식통은 70억달러 안팎으로 본다. 환율과 기준일에 따라 달라지는 값이라 어느 쪽도 확정된 수치는 아니다.
같은 딜을 두고 이렇게 값이 갈리는 이유는 투자 라운드의 구조에 있다. 우선주 가격과 전환 조건, 희석 여부에 따라 값이 여러 방식으로 계산된다. Fractile valuation을 인용할 때는 누가 계산한 값인지 밝히는 편이 안전하다.
AI inference chips의 병목은 계산이 아니라 메모리
모델을 돌린다는 것은 결국 가중치를 계속 읽어 들이는 일이다. 답을 한 글자 만들 때마다 모델의 숫자 덩어리를 메모리에서 연산 장치로 옮겨야 한다. 그럼 병목은 어디서 생길까? 연산 장치가 아무리 빨라도 데이터가 늦게 도착하면 그 시간만큼 놀게 된다.
그래서 최근 몇 년간 칩 설계의 승부는 연산 유닛의 개수가 아니라 메모리 대역폭에서 갈렸고, 고대역폭 메모리를 연산 장치 옆에 얼마나 가까이 붙이느냐가 토큰 하나를 만드는 데 드는 시간과 전력을 결정했다. 한국 메모리 회사들이 AI 서버 수요를 크게 가져간 것도 이 구조 덕분이다.
DRAM을 위에 얹는 Fractile의 설계
프랙타일의 접근은 메모리를 연산 장치 옆이 아니라 위에 쌓는 것이다. 칩 한 장에 DRAM을 수직으로 올려 붙이면 대역폭과 용량 사이에서 하나를 포기하던 기존의 타협을 피할 수 있다는 설명이다.
요리로 바꾸면 이렇다. 지금 구조는 요리사가 재료를 가지러 창고까지 자주 걸어가는 주방이다. 손이 빠른 요리사라도 창고가 멀면 요리는 늦다. 프랙타일은 창고를 조리대 위에 올리겠다는 셈이다.
회사는 칩만 팔지 않고 자체 머신러닝 컴파일러를 함께 내놓아 소프트웨어까지 묶는 전략을 택했는데, 모델을 칩에 올리는 일이 까다롭기 때문에 하드웨어만 내놓으면 성능을 제대로 뽑아 내기 어렵다는 판단으로 읽힌다.
UK AI chip startup, 정부가 자금을 댄 이유
영국 정부는 이번 라운드를 자국 하드웨어 산업에 대한 지분 확보로 설명했다. 자국 경제를 떠받칠 컴퓨트를 남의 나라 칩에만 맡길 수 없다는 논리다. 소버린 AI 펀드가 직접 지분을 샀는지, 라운드 참여 형태였는지는 공개되지 않았다.
첫 칩을 내놓기까지 몇 년이 걸리는 회사라, 민간 자금만으로는 그 구간을 버티기 어렵다.
Fractile $720M이 사는 것은 칩이 아니라 시간
지금까지 공개된 것은 칩이 아니고, 회사는 아직 칩을 출하하지 않았으며, 고객사도 없고, 독립 검증을 거친 성능 수치도 없어서 외부에서 확인할 수 있는 것은 설계 설명과 투자 유치 사실뿐이다. 최고경영자 월터 구드윈은 링크드인에서 "아직 할 일이 많다"고 쓰면서, 이번 자금으로 내년에 첫 칩과 시스템을 내놓겠다고 밝혔다.
그래서 이 라운드의 성격은 명확하다. 반년 치 시간을 사는 돈이다. 70억달러라는 값은 지금의 매출이 아니라, 내년에 실리콘을 뽑아 냈을 때 추론 시장에서 통할 수 있다는 가정에 매겨진 것이다.
Fractile과 경쟁하는 AI inference chips 회사들
같은 시장을 노리는 회사가 여럿이다. 엣쳇, 악셀레라, 올릭스가 추론용 실리콘에서 비슷한 주장을 편다. 국내에도 리벨리온과 퓨리오사AI처럼 추론 칩을 만드는 회사가 있다.
진짜 경쟁 상대는 이들 스타트업이 아니라 엔비디아다. 엔비디아는 매년 새 아키텍처를 내놓고 소프트웨어 생태계로 고객을 묶는다. 신생 회사가 이기는 길은 특정 워크로드에서 확실히 싸고 빠르다는 것을 증명하는 쪽뿐이다.
2027년 Fractile 칩이 나오면 볼 것
첫 칩이 나오면 확인할 것은 세 가지다. 실제 전력당 처리량, 실제 모델을 올렸을 때의 지연 시간, 그리고 그 수치를 고객이 재현할 수 있는지다. 벤치마크 발표만으로는 부족하다. 돈을 내고 사는 회사가 나와야 증명이 끝난다.
지금 단계에서 이 회사에 대해 확실히 말할 수 있는 것은 두 가지다. 메모리 병목을 정면으로 다루는 설계를 택했다는 점, 그리고 그 설계에 영국 정부와 대형 벤처캐피털이 함께 돈을 걸었다는 점이다. 나머지는 내년 실리콘에서 판가름 난다.
