AI 模型

Rumble-2-Flash 開源:0.5B 參數在客服電話上追平 30B 模型

一支 5 億參數的語音辨識模型,在 302 小時的英文客服電話上,只輸給 300 億參數的對手 0.08 個百分點。Reson8 在 11 月 18 日把這支模型連權重一起放上 Hugging Face。

陳柏宇陳柏宇
熱度:560
暗色背景上一道長條藍綠色聲波,其中一根橘色強調柱

一支 5 億參數的語音辨識模型,在 302 小時的英文客服電話上,只輸給 300 億參數的對手 0.08 個百分點。Reson8 在 11 月 18 日把這支模型連權重一起放上 Hugging Face。

Rumble-2-Flash 用 0.5B 參數貼上 30B 模型的成績

先看那個比例。0.5B 對上 30B,參數量差了 60 倍。這種差距通常代表兩件事之一:要嘛小模型被剪得太兇,要嘛大模型沒把參數用對地方。

Reson8 拿 AppTek 的客服測試集來證明是後者。那組資料是 302 小時的求助熱線錄音,含 14 種英文口音,正是語音辨識最容易翻車的場景。Rumble-2-Flash 的詞錯率是 7.86%,Nvidia 的 Nemotron 3.5 Transcribe 是 7.78%。

詞錯率可以這樣理解:每 100 個字裡錯幾個。7.86% 意味著一段十分鐘的客服錄音,還是會出現需要人工校對的段落。它離「丟進去就不用管」還很遠,但已經接近大模型的水準。如果同樣的準確度可以在一般的機器上跑完,過去那種為了轉錄而租一整套 GPU、按小時計費的作法,就少了一個繼續存在的理由。

同一張表上還有兩個對照。Qwen3-ASR 的 0.6B 版本是 8.7%,1.7B 版本是 7.4%。

Open ASR Leaderboard 的多語平均 6.96%

多語賽道上的數字更能說明泛用性。在 Open ASR Leaderboard 的多語賽道,Rumble-2-Flash 平均錯誤率 6.96%,涵蓋中文、德文、法文、義大利文、西班牙文、葡萄牙文、印地文、荷蘭文與英文共九種語言。

英文賽道單獨看是 6.6%。Reson8 說這個成績勝過 Meta 的 omniASR-LLM 7B(體積大約是它的 15 倍),也勝過 Whisper large-v3。

中文在名單裡,這件事對台灣的團隊有意義。不過模型卡給的是九語平均,沒有單獨列出中文分數,所以真正的繁中表現,還是得自己拿素材測一輪才知道。

Apache 2.0 加上 vLLM:部署為什麼變簡單

授權是 Apache 2.0,商業使用不必另外談。它也不要求你把改過的程式碼公開,對想把模型包進商用產品的團隊來說,這一條比任何分數都關鍵。

工程面上的重點是它不挑工具。Transformers 與 vLLM 都原生支援,不必寫自訂程式,也不必開 trust_remote_code。架構沿用 Qwen3-ASR 那一套,既有的推論服務與排程方式大多可以直接沿用。對一個要把客服電話全部轉成文字、每天累積上千小時音檔的公司來說,能不能自己架、架在什麼機器上,往往比榜單上零點幾個百分點更決定成本。

速度方面,Reson8 說在完整批次下可以跑到 7,000 RTFx 以上。RTFx 是即時倍率,7,000 代表處理速度是音檔長度的七千倍,換算下來,一小時的音檔大約半秒處理完。這種吞吐量意味著,過去要排隊等 GPU 的批次轉錄工作,現在可以做成即時服務。

輸出格式也有開關。數字要寫成阿拉伯數字還是中文讀音、語氣詞要不要保留、重複的詞要不要照原樣輸出、語言要不要強制指定,這些都能調。做逐字稿的人會懂,這幾個選項比模型本身更影響後續整理的成本。

自動語言偵測在混語會議裡特別有用。一段音檔裡先講國語、中段插英文技術名詞、最後又回到中文,模型會自己判斷當下是哪一種語言,不必事先分段。這正是台灣辦公室裡最常見的錄音型態。

Reson8 怎麼把 Rumble-2 壓成小模型

方法是蒸餾,但不是課堂上那種單向灌輸。Reson8 讓小模型自己轉錄音檔,再由大模型 Rumble-2 逐個詞元批改,這種做法叫 on-policy distillation。

中間有個技術障礙:老師和學生的分詞方式不同,同一個詞在兩邊會被切成不一樣的詞元,沒辦法直接對答案。團隊用一個叫 GOLD 的方法把詞元合併,讓兩邊在同一段文字上比對。

換成日常說法,就是老師不再照自己的斷句改作業,而是先把句子對齊,再逐字挑錯。

誠實的邊界:Qwen3-ASR 1.7B 在電話錄音上還領先

把這句放在心上,再看幾個限制。7.86% 沒有贏過 Qwen3-ASR 1.7B 的 7.4%,所以「追平 30B 模型」這句話只成立在 AppTek 那一組客服資料上,不是全面勝利。

40 多種語言也不代表每一種都一樣好。語言清單是覆蓋範圍,不是品質保證書。Whisper large-v3 是很多團隊的預設選項,這次被拿來當對照,意思是以後預設值有機會換人。

還有一個容易被誤會的點:這支模型沒有宣稱支援講者分離。要把一場四人會議拆成四段逐字稿,還得另外接工具。

誰該為了一個 open speech model 換掉按分鐘計費的服務

如果你現在是按分鐘付費呼叫語音 API,這支模型值得算一次帳。先問一個問題:你每個月付出去的轉錄費,夠不夠租一張中階繪圖卡?把分鐘數乘以單價,再對照一張中階顯卡或一顆資料中心 GPU 的租金,答案通常很快就出來。

客服中心的場景最直接。電話音質差、口音雜、背景有雜訊,這正是 AppTek 那組資料在模擬的環境。台灣的客服錄音還多一層麻煩,國語、台語與英文專有名詞常混在同一句話裡,這種句子對任何模型都是考驗。

另一個族群是需要把音檔留在自家網路的人。醫療、金融、法務的錄音不能上傳到別人的伺服器,本地部署的 open speech model 因此有了存在理由。要注意 Reson8 只公布了模型大小與速度,沒有實測手機上的表現,想在 App 裡直接跑,得自己驗證。

最快的驗證方式不是看榜單,是拿一小時你自己的錄音跑一次。錯誤率這種東西,換一種口音、換一個產業,數字就會不一樣。如果你手上正好有一批積著沒轉的會議錄音,這週就能試,成本是一張顯卡的租金,而不是一整年的 API 帳單。

分享這則新聞

來源

相關 AI 新聞

終端機視窗裡有上升的獎勵曲線,旁邊是一個 27B 標章
AI 模型

DaisyRose-27B 只做強化學習,18 天把代理寫程式成績翻倍

同一個 Qwen3.8-27B,架構、分詞器、聊天模板都沒改,只換訓練方式。RadixArk 拿 1,200 個長流程任務,示範後訓練的預算可以買到什麼。

熱度:1,330
筆電輪廓裡有三張堆疊的層板,穿過一個迴圈箭頭
AI 模型

Inkling 2 Mini 把中間 12 層跑三次,26B 模型離線塞進筆電

24 層的模型,跑出 48 層的計算深度。Thinking Machines Lab 把這個迴圈架構做成 open weights,讓代理任務有機會在筆電上離線完成。

熱度:1,710
深藍背景上三道光環繞著一顆發光的小核心
AI 模型

Gemini 4 Neon 上線:模型選單剩四項,Argon 與 3.1 Pro 退場

Google 在 11 月 18 日把 Gemini 4 Neon 推上線,同一時間,Gemini app 的模型清單從六個名字縮成四個。習慣點 Argon 的人,今天打開 app 會發現它不見了。

熱度:1,500
大型模型核心環繞推理輻條,旁邊是較小的快速核心,右側是下降的價格柱
AI 模型

GPT-6.2 Astra 降價兩成:單價降了,每任務成本還是 Sol 的三倍多

OpenAI 把 GPT-6.2 Astra 的 API 價格往下調了兩成,同一天 Sol 的價目表一個字都沒動。降價會不會反映到你的帳單,取決於你買的是詞元,還是完成的工作。

熱度:1,900