ZETIC.ai
ZETIC.ai (Zetic Inc.) · 기타
ZETIC.ai는 AI 모델을 사용자 기기에서 직접 돌린다. Melange SDK가 스마트폰이나 엣지 보드의 NPU용으로 모델을 컴파일하고 실행 시 가장 빠른 칩을 골라, 네트워크 없이 추론한다.
ZETIC.ai 소개
About
ZETIC.ai란
ZETIC.ai는 한국의 엣지 컴퓨팅 기업이고 파는 것은 하나다. 이미 학습된 모델을 고객이 가진 하드웨어에서 빠르게 돌리는 일이다. 주력 제품 Melange는 온디바이스 AI 플랫폼이다. 모델을 올리면 서비스가 양자화와 컴파일을 처리하고, SDK가 그 바이너리를 기기로 내려받는다.
노리는 고객은 C++나 OpenCL, Metal 셰이더를 만지고 싶지 않은 팀이다. SDK가 내놓는 것은 얇은 래퍼 하나이고, 계산 그래프를 퀄컴, 미디어텍, 삼성, 애플 실리콘에 얹는 어려운 부분은 ZETIC 쪽이 맡는다. NPU 가속의 값어치가 여기에 있다. 서로 다른 네 가지 툴체인을 배우지 않고도 AI 모델을 배포할 수 있고, 엣지 AI SDK가 그 부분을 대신한다.
계약 전에 확인할 제약이 둘 있다. 호스팅 추론 엔드포인트가 없어서 모델은 URL 뒤가 아니라 앱 안으로 들어간다. 무료로 쓸 수 있는 범위는 퀄컴, 구글 텐서, 애플 뉴럴 엔진까지이고, 미디어텍 APU와 엑시노스 DSP는 엔터프라이즈 계약이 필요하다.
시작하는 방법
- melange.zetic.ai에서 구글이나 깃허브 계정으로 가입한다. 카드 등록은 없고, 런타임만 먼저 시험하려면 데모 모델 키를 그대로 쓰면 된다.
- 학습한 모델을 .pt2나 .onnx로 올리고, NumPy .npy 형식의 샘플 입력도 함께 넣는다.
- 백그라운드 작업이 끝나기를 기다린다. Melange가 계산 그래프를 분석하고 가중치를 양자화한 뒤 대상 NPU 계열별로 컴파일한다.
- 대시보드에서 Model Key와 Personal Key를 복사해 미리 만들어진 코드 조각을 Android, iOS, Flutter 프로젝트에 붙여 넣는다.
- 실기기에서 돌린다. 에뮬레이터와 시뮬레이터에는 NPU가 없으니 거기서 잰 지연 시간은 의미가 없다.
제품 정보
ZETIC.ai의 요금, 지원 플랫폼, 성능을 한눈에 확인해 보세요.
추천 대상
이 도구가 가장 잘 맞는 사용자, 작업, 상황입니다.
사용자
- 이미 출시한 앱에 AI 기능을 붙이는 모바일 개발자. SDK가 Kotlin, Swift, Flutter에 들어가고 모델 키 하나로 사용자 기기 대부분을 커버한다.
- 로보틱스와 하드웨어 팀. Jetson과 퀄컴 보드용 C/C++ 라이브러리나 ROS 2 패키지를 개선 전후 지연 수치와 함께 받는다.
- 실기기 수치가 필요한 연구자. 200대가 넘는 기기 팜이 "중급 안드로이드에서 이 모델이 얼마나 빠른가"를 하드웨어 구매 전에 답해 준다.
작업
- 카메라 앱 안에서 이미지 인식. ZETIC 공개 수치로 YOLOv11이 CPU 102ms에서 아이폰 16 뉴럴 엔진 1.9ms로 줄어든다.
- 서버 없이 언어 모델 돌리기. 컴파일된 바이너리는 한 번 내려받아 캐시되고, 이후에는 네트워크 호출 없이 응답한다.
- 모델이 스마트폰에 들어가는지 확인. 올리고 재 보고 메모리와 지연을 확인한 뒤 설계를 확정한다.
- 같은 하드웨어에서 후보 모델 비교. 대시보드가 결과를 남기므로 스펙표가 아니라 실측값으로 비교한다.
활용 상황
- 사용자 사진과 영상을 클라우드로 올리면 규정 문제가 되는 앱. 프레임은 기기에 남고 추론도 기기에서 끝난다.
- 추론량이 많고 마진이 얇은 제품. 연산을 기기로 옮기면 호출당 서버 비용이 사라지지만 앱 다운로드 용량이 커진다.
- 하드웨어 구매. 지원 보드를 자사 워크로드로 먼저 비교한 뒤 여러 대를 한꺼번에 사는 판단을 할 수 있다.
주요 기능
한 번 올리면 컴파일된 바이너리가 나온다
Melange는 PyTorch Exported Program(.pt2)과 ONNX를 받는다. 백그라운드에서 계산 그래프를 분석하고 양자화한 뒤 대상 가속기용으로 컴파일하고, 그 바이너리를 가리키는 Model Key를 돌려준다. 커널을 직접 빌드할 일은 없다.
드라이버를 건드리지 않고 NPU 쓰기
하드웨어 추상화가 퀄컴 HTP와 DSP, 구글 텐서, A11 이후 애플 뉴럴 엔진, 그리고 엔터프라이즈 계약 아래의 미디어텍 APU와 엑시노스 DSP를 덮는다. 작성하는 코드는 Kotlin, Swift, Dart이고 벤더별 배선은 플랫폼이 처리한다. 보통 프로젝트 한 분기를 잡아먹는 작업이다.
실행 시 백엔드 선택
모델마다 기기별로 CPU, GPU, NPU를 각각 측정하고, 런타임이 스마트폰 AI 추론을 가장 빠른 백엔드로 보낸다. NPU 드라이버가 뒤처진 기기에서 특히 쓸모가 있다. 미디어텍 칩을 쓴 갤럭시 A34에서 ZETIC 수치는 NPU 249ms, GPU 96ms였고 Melange는 GPU로 넘어간다.
Android, iOS, Flutter를 한 코드로
Android는 Maven을 통한 Kotlin이나 Java, iOS는 Swift Package Manager를 통한 Swift, Flutter는 전용 패키지를 쓴다. 래퍼 API 모양이 셋 다 같아서 모델 로딩 코드는 재작성이 아니라 몇 줄 차이로 끝난다.
실기기에서 잰 수치
ZETIC은 에뮬레이터가 아니라 200대가 넘는 실제 기기 팜에서 측정한다. 드라이버 편차, 발열로 인한 클럭 저하, 메모리 한계가 그대로 드러난다. 공개값에는 YOLOv11 기준 갤럭시 S25 NPU 3.72ms, 아이폰 15 프로 맥스 NPU 2.05ms가 있다.
로보틱스 스택을 위한 납품
피지컬 AI 작업에는 같은 실행 최적화를 C/C++ 라이브러리나 ROS 2 패키지로 묶어 Jetson Thor, Orin, Nano와 퀄컴 QCS, iQ 보드를 지원한다. Jetson AGX Thor의 π0.5 데모에서 정책 추론이 253.7ms에서 31.5ms로 줄었다. PyTorch eager 기준 약 8.1배다.
장단점
장점
- 셰이더도 커널도 드라이버도 직접 다루지 않는다. 온디바이스 AI 프로젝트가 멈추는 이유가 대개 여기에 있다.
- 카드 없이 만드는 무료 계정이 있고, 공개 데모 모델 키로 첫 동작 확인이 가능하다.
- 모델 키 하나가 넓은 기기 목록을 커버하고, 런타임이 기기마다 CPU, GPU, NPU를 고른다.
- 수치가 실기기에서 나오므로 지연 추정치가 양산 단계에서도 버틴다.
- 지원 모델과 보드라면 로봇과 엣지 납품이 2일로 안내되고, C/C++ 라이브러리나 ROS 2 패키지로 받는다.
단점
- 미디어텍 APU와 엑시노스 DSP는 엔터프라이즈 계약이 필요해, 해당 칩을 쓰는 소비자 앱 팀은 GPU 경로만 쓸 수 있다.
- 호스팅 API가 없다. SDK 대신 REST 엔드포인트를 원했다면 제품 형태가 맞지 않는다.
- 최소 사양이 Android 7.0과 iOS 16.6이고, 제대로 된 측정에는 실기기가 필수다.
- 가격이 공개되지 않고, 새 아키텍처나 보드는 납품까지 일주일가량 걸린다.
자주 묻는 질문
AI 추론을 기기 쪽으로 옮기는 데 쓴다. 학습한 모델과 대상 스마트폰이나 보드를 넘기면 ZETIC이 그 모델을 기기의 NPU, GPU, CPU에서 돌도록 컴파일한다.
관련 콘텐츠
ZETIC.ai와 관련된 도구, 스킬, 아티클을 살펴보세요.
ZETIC.ai 대안
Odyssey 3
Odyssey · 기타Odyssey-3는 Odyssey의 기반 월드 모델이다. 물리 현상을 실시간으로 시뮬레이션하고, 프롬프트를 인터랙티브 환경으로 바꾸며, 로봇과 자동차, 게임에 적응한다.
JarvisCore
Prescott Data · 코딩 · 생산성 · 기타JarvisCore는 AI 에이전트가 대등한 피어로 메시를 이루고 공유 원장에서 작업을 가져가며 제로트러스트 브로커를 통해 외부 서비스를 호출하는 오픈소스 Python 런타임이다.
Clef
Cloudflare · 비즈니스 · 기타Clef는 Workers AI에서 도는 Cloudflare의 오픈소스 의사결정 모델이다. 생성된 문장 대신 정해진 질문에 확률을 돌려주므로, 에이전트가 빠르게 분류하고 라우팅하고 행동한다.