一支 5 億參數的語音辨識模型,在 302 小時的英文客服電話上,只輸給 300 億參數的對手 0.08 個百分點。Reson8 在 11 月 18 日把這支模型連權重一起放上 Hugging Face。
Rumble-2-Flash 用 0.5B 參數貼上 30B 模型的成績
先看那個比例。0.5B 對上 30B,參數量差了 60 倍。這種差距通常代表兩件事之一:要嘛小模型被剪得太兇,要嘛大模型沒把參數用對地方。
Reson8 拿 AppTek 的客服測試集來證明是後者。那組資料是 302 小時的求助熱線錄音,含 14 種英文口音,正是語音辨識最容易翻車的場景。Rumble-2-Flash 的詞錯率是 7.86%,Nvidia 的 Nemotron 3.5 Transcribe 是 7.78%。
詞錯率可以這樣理解:每 100 個字裡錯幾個。7.86% 意味著一段十分鐘的客服錄音,還是會出現需要人工校對的段落。它離「丟進去就不用管」還很遠,但已經接近大模型的水準。如果同樣的準確度可以在一般的機器上跑完,過去那種為了轉錄而租一整套 GPU、按小時計費的作法,就少了一個繼續存在的理由。
同一張表上還有兩個對照。Qwen3-ASR 的 0.6B 版本是 8.7%,1.7B 版本是 7.4%。
Open ASR Leaderboard 的多語平均 6.96%
多語賽道上的數字更能說明泛用性。在 Open ASR Leaderboard 的多語賽道,Rumble-2-Flash 平均錯誤率 6.96%,涵蓋中文、德文、法文、義大利文、西班牙文、葡萄牙文、印地文、荷蘭文與英文共九種語言。
英文賽道單獨看是 6.6%。Reson8 說這個成績勝過 Meta 的 omniASR-LLM 7B(體積大約是它的 15 倍),也勝過 Whisper large-v3。
中文在名單裡,這件事對台灣的團隊有意義。不過模型卡給的是九語平均,沒有單獨列出中文分數,所以真正的繁中表現,還是得自己拿素材測一輪才知道。
Apache 2.0 加上 vLLM:部署為什麼變簡單
授權是 Apache 2.0,商業使用不必另外談。它也不要求你把改過的程式碼公開,對想把模型包進商用產品的團隊來說,這一條比任何分數都關鍵。
工程面上的重點是它不挑工具。Transformers 與 vLLM 都原生支援,不必寫自訂程式,也不必開 trust_remote_code。架構沿用 Qwen3-ASR 那一套,既有的推論服務與排程方式大多可以直接沿用。對一個要把客服電話全部轉成文字、每天累積上千小時音檔的公司來說,能不能自己架、架在什麼機器上,往往比榜單上零點幾個百分點更決定成本。
速度方面,Reson8 說在完整批次下可以跑到 7,000 RTFx 以上。RTFx 是即時倍率,7,000 代表處理速度是音檔長度的七千倍,換算下來,一小時的音檔大約半秒處理完。這種吞吐量意味著,過去要排隊等 GPU 的批次轉錄工作,現在可以做成即時服務。
輸出格式也有開關。數字要寫成阿拉伯數字還是中文讀音、語氣詞要不要保留、重複的詞要不要照原樣輸出、語言要不要強制指定,這些都能調。做逐字稿的人會懂,這幾個選項比模型本身更影響後續整理的成本。
自動語言偵測在混語會議裡特別有用。一段音檔裡先講國語、中段插英文技術名詞、最後又回到中文,模型會自己判斷當下是哪一種語言,不必事先分段。這正是台灣辦公室裡最常見的錄音型態。
Reson8 怎麼把 Rumble-2 壓成小模型
方法是蒸餾,但不是課堂上那種單向灌輸。Reson8 讓小模型自己轉錄音檔,再由大模型 Rumble-2 逐個詞元批改,這種做法叫 on-policy distillation。
中間有個技術障礙:老師和學生的分詞方式不同,同一個詞在兩邊會被切成不一樣的詞元,沒辦法直接對答案。團隊用一個叫 GOLD 的方法把詞元合併,讓兩邊在同一段文字上比對。
換成日常說法,就是老師不再照自己的斷句改作業,而是先把句子對齊,再逐字挑錯。
誠實的邊界:Qwen3-ASR 1.7B 在電話錄音上還領先
把這句放在心上,再看幾個限制。7.86% 沒有贏過 Qwen3-ASR 1.7B 的 7.4%,所以「追平 30B 模型」這句話只成立在 AppTek 那一組客服資料上,不是全面勝利。
40 多種語言也不代表每一種都一樣好。語言清單是覆蓋範圍,不是品質保證書。Whisper large-v3 是很多團隊的預設選項,這次被拿來當對照,意思是以後預設值有機會換人。
還有一個容易被誤會的點:這支模型沒有宣稱支援講者分離。要把一場四人會議拆成四段逐字稿,還得另外接工具。
誰該為了一個 open speech model 換掉按分鐘計費的服務
如果你現在是按分鐘付費呼叫語音 API,這支模型值得算一次帳。先問一個問題:你每個月付出去的轉錄費,夠不夠租一張中階繪圖卡?把分鐘數乘以單價,再對照一張中階顯卡或一顆資料中心 GPU 的租金,答案通常很快就出來。
客服中心的場景最直接。電話音質差、口音雜、背景有雜訊,這正是 AppTek 那組資料在模擬的環境。台灣的客服錄音還多一層麻煩,國語、台語與英文專有名詞常混在同一句話裡,這種句子對任何模型都是考驗。
另一個族群是需要把音檔留在自家網路的人。醫療、金融、法務的錄音不能上傳到別人的伺服器,本地部署的 open speech model 因此有了存在理由。要注意 Reson8 只公布了模型大小與速度,沒有實測手機上的表現,想在 App 裡直接跑,得自己驗證。
最快的驗證方式不是看榜單,是拿一小時你自己的錄音跑一次。錯誤率這種東西,換一種口音、換一個產業,數字就會不一樣。如果你手上正好有一批積著沒轉的會議錄音,這週就能試,成本是一張顯卡的租金,而不是一整年的 API 帳單。






