Liquid AI
Liquid AI · 程式設計 · 其他
Liquid AI 打造 Liquid Foundation Models，這是一系列小型開放權重 AI 模型，能在手機、筆電與邊緣硬體上執行，不需要連線雲端。
關於 Liquid AI
What Is Liquid AI
Liquid AI 是一家設計基礎模型的公司，目標是讓模型在你眼前的裝置上執行，而不是遠端的資料中心。核心產品是 Liquid Foundation Models（LFM）系列，這是一組開放權重模型，小到能放進手機、筆電、穿戴裝置與嵌入式晶片。公司 2023 年自麻省理工學院 CSAIL 實驗室分拆成立，此後已推出數代模型，目前主線是 LFM2 與 LFM2.5。
訴求很單純。大型雲端模型按權杖計費，並把每次請求送到伺服器。LFM 改為在本機執行，延遲維持在毫秒等級，工作離線也能繼續，私有資料不會離開裝置。模型規模從 3.5 億到 83 億參數，涵蓋入門手機上的文字助理，到筆電上的推理代理。
兩件事決定了你能走多遠。授權只在你公司年營收未滿 1000 萬美元前免費，一旦超過就需要付費商用授權。而最小的模型用事實記憶換來速度與體積，所以 350M 模型在開放式知識問答上比不上大型雲端模型。
Getting Started
- 在 Liquid AI 官網或 Hugging Face 模型庫挑一個模型，對照你手上的硬體確認體積。最小的版本執行時佔用不到 1GB。
- 下載開放權重，或透過你慣用的執行環境取得，例如 llama.cpp、MLX、ONNX、vLLM 或 SGLang。
- 在本機執行模型，看看它在你的裝置上表現如何，或只想測試提示詞時直接打開瀏覽器版 playground。
- 當通用模型不夠精準時，用你自己的資料微調。可用 LEAP 平台，或 Unsloth、TRL 等開放工具。
- 依使用者所在位置，把模型打包進你的 App，或部署到雲端。
產品資訊
快速了解 Liquid AI 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- App 與行動開發者：把小型開放權重模型放進手機或筆電 App，執行推論時不必支付權杖費用。
- 重視隱私的團隊：讓敏感文字留在裝置上，客戶資料永遠不會送到第三方伺服器。
- 研究者與學生：免費下載、執行並微調每一個 LFM，包含商用，直到營收門檻。
- 硬體製造商：把模型塞進穿戴裝置、車輛與連不上資料中心的嵌入式晶片，這正是邊緣 AI 的典型場景。
任務
- 打造離線聊天助理：在本機執行其中一款裝置端 AI 模型，讓回答在沒有網路時也能持續運作。
- 加入影像理解：用視覺語言模型在裝置上做物件偵測、OCR 與多圖推理。
- 語音互動：執行音訊模型處理即時語音對語音任務，不必拼湊多個獨立工具。
- 分流與分類：用決策模型在一次呼叫中排序、評分或標記資料。
- 客製微調：用自己的資料訓練模型，讓它在特定任務上比通用模型更貼合。
情境
- 車載助理在毫秒內回應，訊號中斷時仍繼續運作。
- 手機上的外勤 App 摘要文件並翻譯文字，不必繞道雲端。
- 受監管的流程中，原始資料留在機器上，永遠不離開建築物。
- 需要第一天就有可用模型的原型，在花錢買雲端推論之前先跑起來。
主要功能
開放權重模型系列
Liquid AI 以開放權重釋出模型，規模從數億到數十億參數。你可以下載、執行並微調每一個模型，包含商用，直到公司年營收超過 1000 萬美元。最小的版本執行佔用不到 1GB，足以放進現代手機。
LFM2 與 LFM2.5 兩代
LFM2 涵蓋 350M、700M、1.2B 與 2.6B 的稠密模型，加上一款混合專家變體，全部具備 32K 上下文。LFM2.5 加入 Base、Instruct、日文、視覺語言與音訊語言模型，指令遵循能力針對裝置端代理調校。較新的文字模型詞彙量加倍，上下文可達 128K。
多模態涵蓋
視覺模型把輕量文字主幹與 SigLIP2 影像編碼器結合，在裝置上理解影像。音訊模型在單一模型內處理語音輸入與輸出，不必把語音辨識器與語言模型配對。也就是說，手機能讀照片或進行語音對話，資料不必送出裝置。
LEAP 平台
LEAP 又稱 LEAP SDK，是 Liquid 的跨平台工具組，讓團隊在行動與嵌入式裝置上建置並部署模型。它為 iOS 與 Android 提供單一流程，支援 Liquid 自家模型與其他小型開放模型，內建模型庫小到能放進手機記憶體。LEAP Finetune 在同一處處理資料準備、模型訓練與匯出。
在一般硬體上執行
LFM 能在 CPU、GPU 與 NPU 上執行，從手機、筆電到車輛與嵌入式裝置皆可。它們以毫秒延遲與私有推論為目標，網路變慢或中斷時模型仍能回應。你依手上的晶片選擇合適的規模。
免費微調
模型微調不必綁在付費方案後。授權允許你用自有資料訓練模型並保留成果為私有，沒有 copyleft 條款。Liquid 自家的微調工具，與 Unsloth、TRL 及 Transformers 函式庫等開放選項並行。
Model Playground 與 Liquid Apollo
Model Playground 讓你在下載前先在瀏覽器測試模型。Liquid Apollo 是一款行動 App，把本機模型放進你的口袋，用低延遲、免雲端的方式，零設定體驗裝置端 AI。
優缺點
優點
- 免權杖帳單：本機執行移除了經常性 API 成本，對長時間或高用量的工作尤其有感。
- 預設隱私：敏感文字與影像留在裝置上，而不是送往伺服器。
- 小到能出貨：1GB 以下的版本能放進手機、穿戴裝置與嵌入式晶片。
- 免費起步：每個模型在 1000 萬美元營收門檻前都能免費下載與微調。
- 真正的多模態廣度：文字、視覺與音訊模型來自同一系列、同一授權。
缺點
- 營收門檻：公司年營收超過 1000 萬美元後，免費商用授權終止，需要付費協議。
- 小模型有其限制：350M 模型在開放式知識或長推理鏈上比不上大型雲端模型。
- 硬體仍關鍵：更快、更大的模型需要夠力的 CPU、GPU 或 NPU，較舊裝置能發揮的有限。
- 設定屬開發工作：把模型放進 App 得處理執行環境與打包，不是開個帳號就行。
常見問題
Liquid AI 是一家自麻省理工學院 CSAIL 實驗室分拆成立的公司，打造 Liquid Foundation Models。這些是小型開放權重 AI 模型，設計成在手機、筆電與邊緣裝置上執行，而非資料中心，因此推論快速且保有隱私。
相關內容
探索與 Liquid AI 相關的工具、技能與文章。
Liquid AI 替代方案
Forefront
Forefront · 程式設計Forefront 是一個用來打造開源 AI 的網頁平台。你可以用自己的資料微調主流的開源語言模型、評估它們的表現，再透過 API 執行，或匯出後自行架設。想要封閉式平台的便利、卻堅持要自己擁有模型與資料的開發者，就是這裡的目標客群。
Startkit
StartKit.AI · 程式設計Startkit 是一套用來打造 AI SaaS 與 AI 包裝產品的樣板。可以把它想成一個 AI 新創樣板，把枯燥的部分都先接好了：驗證、Stripe 與 Lemon Squeezy 付款、用量限制、交易型電子郵件，以及一套能與 OpenAI、Anthropic、Groq 或 Llama 溝通的 AI API 啟動套件。你複製儲存庫、設定價格，然後專心在產品中使用者真正願意付費的部分。它建構於 React 與 Tailwind 之上的 Next.js，所以大部分的樣板程式碼對你來說並不陌生。
Testim
Tricentis · 程式設計Testim 是專為網頁、行動與 Salesforce 應用程式打造的 AI 測試自動化平台，用來建立並執行端到端測試。它靠機器學習在介面變動時維持測試穩定，團隊因此少花時間修補壞掉的定位器。對於一款今天就能開始使用的自動化測試工具來說，這表現不算差。你透過在瀏覽器錄製動作來建立測試，需要更多控制時再補上 JavaScript。對忙碌的 QA 團隊來說，這是個可靠的選擇。