ZETIC.ai
ZETIC.ai (Zetic Inc.) · 其他
ZETIC.ai 把 AI 模型放進使用者手上的硬體。Melange SDK 會針對手機或邊緣板卡的 NPU 編譯模型，執行時自動挑最快的晶片，全程不必連網。
關於 ZETIC.ai
About
ZETIC.ai 是什麼
ZETIC.ai 是一家韓國邊緣運算公司，只賣一件事：讓訓練好的模型在客戶既有的硬體上跑得快。主力產品是 Melange，一套裝置端 AI 平台。使用者上傳模型，服務負責量化與編譯，SDK 再把編譯後的二進位檔下載到裝置。
這套說法針對的是不想碰 C++、OpenCL 或 Metal shader 的團隊。SDK 只露出一層簡單的包裝，真正麻煩的部分，也就是把模型運算圖放到高通、聯發科、三星或 Apple 的晶片上，由 ZETIC 那邊處理。NPU 加速的價值就在這裡：部署 AI 模型時不用先學會四套不同的工具鏈。
簽約前有兩件事得先看清楚。平台沒有代管推論端點，模型是跟著 App 一起出貨，不是放在某個網址後面。免費通道涵蓋高通、Google Tensor 與 Apple 神經網絡引擎，聯發科 APU 與三星 Exynos DSP 則要企業合約。
開始使用
- 用 Google 或 GitHub 帳號登入 melange.zetic.ai。註冊不必綁信用卡，只想先試執行環境的話，官方有一組示範模型金鑰可用。
- 上傳訓練好的模型，格式為 .pt2 或 .onnx，同時附上存成 NumPy .npy 的範例輸入。
- 等背景作業跑完。Melange 會分析運算圖、量化權重，再針對各個目標 NPU 家族編譯。
- 從儀表板複製 Model Key 與 Personal Key，把現成的程式片段貼進 Android、iOS 或 Flutter 專案。
- 用實機測試。模擬器沒有 NPU，在那裡量到的延遲沒有參考價值。
產品資訊
快速了解 ZETIC.ai 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 想為已上線 App 加上 AI 的行動開發者：SDK 可直接放進 Kotlin、Swift 或 Flutter，一組模型金鑰就涵蓋使用者的各種手機。
- 機器人與硬體團隊：ZETIC 為 Jetson 與高通板卡提供 C/C++ 函式庫或 ROS 2 套件，並附上優化前後的延遲數據。
- 需要實機數據的研究者：200 多支手機的測試機隊能回答「這個模型在中階 Android 上跑多快」，不必先買硬體。
任務
- 在相機 App 裡做影像辨識：依 ZETIC 公布數據，YOLOv11 從 CPU 的 102 毫秒降到 iPhone 16 神經網絡引擎的 1.9 毫秒。
- 不架伺服器跑語言模型：編譯檔下載一次後留在快取，之後回答提示詞完全不必發出網路請求。
- 先確認模型塞不進手機：上傳、量測，看清楚記憶體與延遲再定案設計。
- 在同一批硬體上比較候選模型：儀表板保留每次結果，比的是實測數字而不是規格表。
情境
- 照片與影片 App 若把使用者素材上傳雲端會踩到法規：畫格留在手機，推論也在手機完成。
- 推論量大、毛利薄的產品：把運算移到裝置端可省掉每次呼叫的伺服器費用，代價是 App 下載檔變大。
- 採購硬體：團隊先用自家工作量比較支援的板卡，再決定要不要整批買。
主要功能
上傳一次，取得編譯好的二進位檔
Melange 接受 PyTorch Exported Program（.pt2）與 ONNX。服務在背景分析運算圖、量化，再針對目標加速器編譯，最後給出一組指向該檔案的 Model Key。核心運算不必自己編。
不必碰驅動就能用 NPU
硬體抽象層涵蓋高通 HTP 與 DSP、Google Tensor、A11 以後的 Apple 神經網絡引擎；聯發科 APU 與三星 Exynos DSP 需企業合約。開發者寫的是 Kotlin、Swift 或 Dart，各家晶片的底層細節交給平台，那部分通常會吃掉專案一整個季度。
執行時決定後端
每個模型都會在每台裝置上分別於 CPU、GPU、NPU 量測，執行環境再把手機 AI 推論導向最快的那一個。NPU 驅動落後的機型特別需要這層判斷：以搭載聯發科晶片的 Galaxy A34 為例，ZETIC 自家數據是 NPU 249 毫秒、GPU 96 毫秒，Melange 會改走 GPU。
Android、iOS、Flutter 共用一套程式
Android 走 Kotlin 或 Java 搭配 Maven，iOS 走 Swift 搭配 Swift Package Manager，Flutter 則有專屬套件。三邊的包裝 API 形狀一致，模型載入程式只差幾行，不必重寫。
在真機上量測
ZETIC 在 200 多台實機組成的機隊上測試，不用模擬器，因此驅動碎片化、溫度降頻與記憶體上限都會顯現。公開數據包括 YOLOv11 在 Galaxy S25 NPU 的 3.72 毫秒，以及 iPhone 15 Pro Max NPU 的 2.05 毫秒。
為機器人技術堆疊出貨
針對實體 AI，ZETIC 把同一套執行工程包成 C/C++ 函式庫或 ROS 2 套件，支援 Jetson Thor、Orin、Nano 及高通 QCS、iQ 板卡。在 Jetson AGX Thor 的 π0.5 示範中，策略推論從 253.7 毫秒降到 31.5 毫秒，約 8.1 倍，基準是 PyTorch eager。
優缺點
優點
- 開發端不必寫 shader、kernel 或驅動，而這正是裝置端 AI 專案最常卡住的地方。
- 免費帳號不綁信用卡，另有一組公開示範模型金鑰可以先試。
- 一組模型金鑰對應一長串裝置，執行時逐台挑選 CPU、GPU 或 NPU。
- 數據來自真實硬體，延遲估算進到量產階段仍站得住。
- 支援的模型與板卡，機器人與邊緣裝置交付報價為兩天，形式是 C/C++ 函式庫或 ROS 2 套件。
缺點
- 聯發科 APU 與三星 Exynos DSP 要企業合約，消費級 App 團隊在這類晶片上只能走 GPU。
- 沒有代管 API。想要 REST 端點而不是 SDK 的人，這個產品形態並不對口。
- 最低門檻是 Android 7.0 與 iOS 16.6，且任何認真量測都必須用實機。
- 價格不公開，新架構或新板卡大約要一週才能交付。
常見問題
把 AI 推論搬到裝置上執行。使用者提供訓練好的模型與目標手機或板卡，ZETIC 負責編譯，讓模型在當地的 NPU、GPU 或 CPU 上跑。
相關內容
探索與 ZETIC.ai 相關的工具、技能與文章。
ZETIC.ai 替代方案
Odyssey 3
Odyssey · 其他Odyssey-3 是 Odyssey 的基礎世界模型，能即時模擬物理，把一段文字提示變成可互動的環境，並套用到機器人、汽車與遊戲上。
JarvisCore
Prescott Data · 程式設計 · 生產力 · 其他JarvisCore 是開源的 Python 執行環境，讓 AI 代理在網格上以對等節點運作、從共用帳本認領任務，並透過零信任代理服務存取外部系統。
Clef
Cloudflare · 商業 · 其他Clef 是 Cloudflare 推出、可在 Workers AI 上執行的開源決策模型。它針對設定好的題目回傳校準後的機率而非生成文字，讓代理程式快速分類、分流並採取行動。