QwQ-32B

QwQ-32B

Alibaba (Qwen team) · 商業 · 其他

QwQ-32B 是阿里巴巴 Qwen 團隊的開源權重推理模型,會一步步拆解數學與程式問題,而且跑得動單張自有顯示卡。

QwQ-32B 的介面預覽

關於 QwQ-32B

What Is QwQ-32B

QwQ-32B 是阿里巴巴 Qwen 團隊的推理語言模型,2025 年 3 月以 Apache 2.0 授權釋出。這個 QwQ-32B 推理模型有 320 億參數,前身是團隊用來起步的通用模型 Qwen2.5-32B。它不會馬上作答,而是先寫出一長串思考過程,檢查自己的每個步驟,最後才給出答案。這種習慣就是所謂的推理,也是它在「猜錯代價很高」的題目上特別牢靠的原因。

Qwen 團隊強調,QwQ-32B 的表現足以和 6710 億參數的 DeepSeek-R1 平起平坐。團隊把功勞歸給強化學習,而非模型大小:他們先在數學與程式任務上把 RL 往上推,再加入第二階段訓練補齊通用能力。對你來說,重點很單純,就是一個強悍到足以自己跑起來的推理模型。

限制在於適用範圍。QwQ-32B 想過才開口,遇到雞毛蒜皮的小事也慢,加上權重停在最初釋出的版本。後續的 Qwen 推理模型支援更多語言,還能在快速與深度兩種模式間切換,所以最好把這個開源推理模型看成一把專攻推理的利器,而不是什麼都能做的助理。

Getting Started

  1. 從 Hugging Face 或 ModelScope 下載權重,或用 ollama run qwq 取得量化版本
  2. 依照手上的硬體,把模型載入 vLLM、SGLang 或 Ollama 這類推論伺服器
  3. 透過伺服器提供的 OpenAI 相容端點送出提示,並在最終答案前讀取推理過程
  4. 想用託管服務,就在阿里雲百鍊平台以模型名稱 qwq-32b 呼叫 Qwen API

產品資訊

快速了解 QwQ-32B 的定價、支援平台與效能。

免費方案是
付費方案$0 (open weights under Apache 2.0; hosted API billed per token)
平台Self-hosted on local or cloud GPU, Alibaba Cloud Model Studio API, Qwen Chat
開發者Alibaba (Qwen team)
類別商業 · 其他
發布日期Mar 2025
最近更新Mar 2025
網站訪問量31.2M
網站全球排名1.3K
API 提供狀態是

適合對象

這項工具最適合的使用者、任務與情境。

使用者

  • 想在自己機器上跑推理模型的開發者:32B 量化後能塞進單張高階顯示卡,機密工作不必離開本機。
  • 卡在數學或程式題的學生與自學者:模型會攤開每個步驟,答錯就變成一次學習,而不是死路一條。
  • 想比較推理模型的研究者:開源權重讓你重跑同一組提示,直接研究推理過程。

任務

  • 解競賽型數學題:模型一步步推進,面對讓一般聊天機器人翻車的多步驟應用題也撐得住。
  • 撰寫與除錯程式:它會先推演邊界情況與測試案例,才定下實作方式。
  • 打造會用工具的代理:模型能呼叫函式,並依回傳結果調整計畫。
  • 量化後的本機推理:4 位元版本把模型縮到能放進消費級顯示卡,也就是說,本地執行 QwQ-32B 完全可行,離線也能推理。

情境

  • 把機密資料留在自家:因為權重由你自己執行,合約或病歷永遠不會送到第三方伺服器。
  • 離線或隔離網路作業:模型載入後,就算沒有連線也能推演問題。
  • 為推理功能做原型:OpenAI 相容伺服器讓 QwQ-32B 輕鬆接進現有應用,方便比較結果。

主要功能

長串思考的推理方式

QwQ-32B 會用明確步驟把問題走完一遍才作答。你能讀那段推理,看出它哪裡偏了,再改寫提示。這正是「聽起來很篤定」和「你真的能查核」兩種模型的差別。

數學與程式表現直逼大上數十倍的模型

Qwen 團隊指出,QwQ-32B 評測在 AIME、LiveCodeBench 等項目上與 DeepSeek-R1 打成平手,無視雙方懸殊的規模差距。這也讓 QwQ-32B 數學與程式表現特別突出。這兩塊正好是它受訓的重點,所以只要牽涉數字或程式,它就是順理成章的選擇。

推理過程中也能呼叫工具

QwQ-32B 會在思考途中呼叫函式,再把結果併回計畫。若任務需要即時資料或外部動作,模型會自己判斷何時該動用工具,而不是憑空猜。這讓它能當代理的大腦,不只是聊天對象。

Apache 2.0 的開源權重

完整權重可下載,授權也寬鬆,你可以微調、量化,甚至放進產品裡發布。沒有任何東西鎖在廠商帳號後面,這對想往上疊功能的人很關鍵。

量化後單張顯示卡就能跑

全精度下模型很吃記憶體,但 4 位元版本能縮到消費級顯示卡放得下。原本得靠資料中心才有的推理能力,現在在你自己的機器上就有。

相容 OpenAI 的部署方式

vLLM、SGLang 這類伺服器用 OpenAI 風格的 API 提供 QwQ-32B。你把現有程式改指向新的網址與金鑰,它就跑起來,轉換只要幾分鐘,不必重寫。

優缺點

優點

  • 推理品質能與大上數十倍的模型較勁,這是 Qwen 團隊評測的結果
  • 權重以 Apache 2.0 開源,自架、微調、散布都不受限制
  • 量化版本能在單張消費級顯示卡上跑,機密資料留在本機
  • 工具呼叫融入推理過程,是打造代理的穩固底子
  • 伺服器相容 OpenAI,採用時程式幾乎不用大改

缺點

  • 慢是天生的:再簡單的問題也會走完整套思考,聊天式的用法會覺得拖沓
  • 權重停在 2025 年那次釋出,後續 Qwen 模型新增的語言支援與模式切換都享受不到
  • 全精度的記憶體需求偏高,硬體普通就沒本錢跳過量化
  • 訓練偏重數學與程式,自由寫作或冷門語言可能落後通用模型

常見問題

它是阿里巴巴 Qwen 團隊推出的開源權重推理語言模型,有 320 億參數,作答前會一步步推演問題,這也是它在數學與程式上特別強的原因。

相關內容

探索與 QwQ-32B 相關的工具、技能與文章。

QwQ-32B 替代方案

Liveplan

Liveplan

Palo Alto Software · 商業

LivePlan 是一款商業計畫軟體,協助創辦人與小型企業主把一個想法變成可供資金方審閱的計畫。它結合了 AI 輔助撰寫、附上引用來源的市場研究,以及彼此連動的財務預測,因此當你改動一個數字時,損益表、現金流量表與資產負債表會一起變動。超過 150 萬家企業曾用它來規劃、預測,並對照真實的會計資料檢視績效。這數字背後是很多創辦人。它也代表這套工具經得起真實貸款方的考驗。

付費 / $20 - $40/mo查看詳情
Swms

Swms

Swms AI · 寫作 · 生產力 · 商業

Swms 是一款 AI 安全合規工具,能把一段對工作的簡單描述變成可直接使用的安全文件。你描述專案、工種與已知危害,它就會在數秒內寫出一份安全作業方法聲明、工作危害分析、安全作業程序、RAMS 或安全資料表。它還內建 Oscar,一個能用任何語言回答職場安全問題的聊天助理。建築、礦業、運輸與倉儲團隊都用它來減少那些原本會吃掉大半工作天的文書作業。

免費 / $20/mo查看詳情
Rows

Rows

Rows (Superhuman) · 生產力 · 商業

Rows 是一款 AI 試算表與資料分析工具,能從 50 多個來源匯入即時資料,接著讓你用白話文操作,不必寫 SQL 查詢或巢狀公式。你可以從 PDF 裡撈出數字,連接廣告平台、資料庫與銀行帳戶,並請 AI 建立報表、合併資料集,或架設會自動重算的模型。它在瀏覽器裡運行,操作起來就像試算表,如今隸屬於 Superhuman 旗下。

免費 / $0 - $87/mo查看詳情