AI 模型熱門

Liquid AI 開源 d1 決策模型,不生成文字、8 毫秒給答案

Liquid AI 開源兩款決策模型 d1-3B 與 d1-omni-600M,特色是不生成文字,而是一次前向運算直接給答案。據公司說法,d1-3B 在消費級顯卡上只要 8 毫秒就能判斷一次。

陳柏宇陳柏宇
熱度:1,100
邊緣裝置上一枚發光小晶片,鏡頭與聲波圖示輸入其中,向外發出一道亮脈衝

Liquid AI 開源兩款決策模型 d1-3B 與 d1-omni-600M,特色是不生成文字,而是一次前向運算直接給答案。據公司說法,d1-3B 在消費級顯卡上只要 8 毫秒就能判斷一次。

Liquid AI 在 10 月 7 日發布兩款開源權重的決策模型:d1-3B(支援文字與圖像)以及實驗性的 d1-omni-600M(支援文字配圖像,或文字配音訊)。這批模型最特別的地方,是它們跟生成式模型走的是不同的路。它們不產出 token,而是在單次前向運算(single forward pass)中給出答案。對需要即時判斷的邊緣裝置而言,這代表速度快、開銷低。

d1-3B 與 d1-omni-600M 各自是什麼

兩款模型雖同屬 d1 家族,底子卻很不一樣。

d1-3B 從 LFM2.5-VL-3B 訓練而來,後者是 decoder-only 的視覺語言模型,輸入吃文字與圖像。d1-omni-600M 則源自 LFM2.5-Encoder-350M,這是一個雙向編碼器,再另外接上視覺與音訊編碼器,讓它一次處理文字、圖像、音訊三種模態。它能接受「文字加圖像」,也能接受「文字加音訊」。

兩者共同的關鍵設計,是把「生成文字」這件事整個拿掉。傳統語言模型是逐字吐出答案,決策模型則是在一次前向運算中直接算出結果。少了逐步生成的過程,延遲自然壓得下來。

效能數字怎麼看

這裡的成績全部出自 Liquid AI 自家公告,尚未經獨立驗證。

據公司說法,d1-3B 在 Decision Index v0.2.1(公開測試集)拿下 48.57 分,超過所有 10B 以下的模型,並與體積大它 12 倍的 Decider 35B-A3B 打成平手。延遲方面,據廠商數據,它在 Nvidia GeForce RTX 4090 上只要 8 毫秒,Jetson AGX Thor 為 16 毫秒,Jetson AGX Orin 為 26 毫秒。連最小的 Jetson Orin Nano 也能在 50 毫秒內跑完,足以應付最小型邊緣硬體的即時判斷需求。

至於 d1-omni-600M,公司稱它是家族中第一個實驗性 checkpoint,在同一指數拿下 15.95 分。兩款模型都已上架 Hugging Face(LiquidAI/d1-3b、LiquidAI/d1-omni-600M),執行說明則在 docs.liquid.ai。

對開發者與邊緣應用的意義

對在資源有限的裝置上跑 AI 的人來說,這批模型的賣點很實際。

過去要在工廠閘道、監控攝影機、小型機器人這類裝置上做即時判斷,通常得把資料傳上雲端,換來延遲與連線成本。d1 系列走的是相反方向:模型小、判斷快、可以在本地執行,影像或音訊不必離場。對需要「當下就決定」的場景,例如產線品檢、異常偵測、離線語音指令,這種單次前向的設計比生成式模型更貼合。

不過要留意兩件事。一是決策模型的任務範圍窄,它回的是答案與分數,不寫說明、不生成內容,別期待它取代聊天模型。二是效能數字目前只有廠商自報,實際導入前的驗證仍然必要。

後續看什麼

開源權重意味著任何人都能下載試跑,真正的口碑會來自社群實測。接下來值得留意的是:第三方對 Decision Index 的複測結果、d1-omni-600M 從實驗性走向穩定版的速度,以及這類「不生成文字」的模型會不會被更多邊緣產品採用。

如果單次前向的做法在實際裝置上站得住腳,它可能替邊緣 AI 開出一條跟雲端大模型不同的路。這條路成不成立,還要看接下來幾個月的實測數字。

分享這則新聞

來源

相關 AI 新聞

微軟推出 Decision-1,一款專為快速決策設計的 AI 模型
AI 模型

微軟推出 Decision-1,一款專為快速決策設計的 AI 模型

微軟這款新模型不寫文章、也不陪你聊天。它專門用來做選擇,而且微軟說它下決定的速度遠快於對手。

熱度:1,350
GPT-6 與 Intelligent UI 開放給全體 ChatGPT 使用者
AI 模型

GPT-6 與 Intelligent UI 開放給全體 ChatGPT 使用者

ChatGPT 的回答正從文字變成按鈕、圖表和迷你工具。背後的 GPT-6 與 Intelligent UI,現在連免費用戶也用得到。

熱度:1,700
Claude Haiku 5.5 讓小型模型 API 成本降 75%
AI 模型

Claude Haiku 5.5 讓小型模型 API 成本降 75%

Anthropic 推出旗下最便宜的小型模型,跑起來的成本大約只有前一代的四分之一。對按用量計費的團隊來說,這代表什麼?

熱度:1,500
大型神經網路核心置於歐洲資料中心框架中的編輯插圖
AI 模型

Mistral Large 4 預覽登場:1T 開源權重,歐洲的最大一注

法國 Mistral 端出兆級參數的 Mistral Large 4,代號「Le Chonk」,先讓開發者在 API 上試用。完整權重月底才會公開,這中間的空窗期,正是觀察歐洲開源路線能走多遠的窗口。

熱度:1,600