Gemma
Google (Google DeepMind) · 程式設計 · 其他
Gemma 是 Google 的開放權重 AI 模型系列,可以下載到自己的硬體上執行。Gemma 4 從手機版本一路涵蓋到工作站用的 31B 模型。

關於 Gemma
About
什麼是 Gemma
Gemma 是 Google 開源模型家族中的開放權重語言模型系列,由 Google DeepMind 打造,與封閉的 Gemini 模型共享研究基礎。兩者最大的差別在於模型跑在哪裡。Gemini 在 Google 的雲端運作,而 Gemma 的開放權重任何人都能下載、修改,並部署在自己的機器上。從 2024 年 2 月首次發布至今,這個系列已經累積超過 4 億次下載,社群衍生的版本超過 10 萬個。
目前的世代是 Gemma 4,於 2026 年 4 月 2 日推出,共有四種版本。兩款輕量版 E2B 與 Gemma E4B 針對手機、Raspberry Pi 板子與 Jetson 裝置設計,可以完全離線執行;兩款較大的版本分別是 26B 的混合專家模型與 31B 的稠密模型,面向開發者工作站與伺服器。四款都能處理圖片,邊緣版本另外支援音訊。
最大的變化在法務面,不在技術面。Gemma 4 從 Google 自家的 Gemma 授權,也就是開發者抱怨了整整一年的那套條款,改用 Apache 2.0。這個授權讓企業可以直接使用、修改與再散布模型來做商業產品,不必先向 Google 取得許可。有一個 31B 版本在開放模型 Arena 排行榜上排第三,Google 也稱這個系列是單位位元組中能力最強的開放模型。
代價是開放權重意味著硬體、安裝與後續維護都得自己來。沒有代管的聊天產品,沒有客服窗口,也無法保證某個微調版本在每項任務上都能追上雲端模型。
開始使用
- 挑選符合手上硬體的版本:手機與小型板子選 E2B 或 E4B,GPU 與工作站選 26B 與 31B。
- 從官方管道下載權重,例如 Gemma Hugging Face、Kaggle 或 ModelScope,並留意 Apache 2.0 的條款。
- Gemma 本機執行的方式,是把模型載入 Ollama、llama.cpp、LiteRT-LM 或 Python 等執行環境,記憶體吃緊時再量化。
- 若基礎模型在你的領域表現不足,用自己的資料做微調,接著透過函式呼叫或 API 接進應用程式。Gemma 微調沿用標準框架,流程對開發者來說並不陌生。
- 上線前用真實工作負載測試,因為裝置端的輸出品質會隨版本大小與量化程度變化。
產品資訊
快速了解 Gemma 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 開發離線應用程式的工程師:Gemma 裝置端 AI 讓 E2B 與 E4B 在手機與單板電腦上離線運作,適合不能把資料送到伺服器的應用。
- 研究人員與動手玩的人:權重開放,可以自行檢視、量化,並針對特定領域微調,不必付雲端費用。
- 預算有限的初創團隊:Apache 2.0 移除了舊 Gemma 授權的法務摩擦,小團隊能直接推出商業產品,不用額外談判。
- 學習機器學習的學生:把真正的模型下載到本機執行,能實際看到推論、量化與工具呼叫怎麼運作。
任務
- 在本機跑程式助理:31B 模型離線處理程式碼生成與重構,原始碼留在自己的機器,而不是送到雲端服務。
- 在裝置上理解語音與圖片:邊緣模型支援音訊與圖片,轉錄與圖片問答不必來回伺服器。
- 處理長文件:大型模型具備 256K token 的上下文視窗,足以一次讀完整份文件或一個程式碼庫。
- 建立代理工作流程:原生函式呼叫與結構化 JSON 輸出讓模型自行決定要呼叫哪個工具或 API,適合背景自動化。
情境
- 在沒有網路的環境工作:工廠產線、野外據點或飛機上,都是雲端連不到而離線模型照常運作的地方。
- 把敏感資料留在自家:醫療紀錄與內部程式碼能留在本機硬體,避開雲端推論帶來的隱私問題。
- 快速做 AI 功能原型:一個下午就能在筆電上架起聊天機器人或摘要工具,不必等企業雲端審核。
- 把原型移植到行動裝置:以邊緣模型打造的應用符合 Android 裝置端 AI 的方向,實驗成果有機會長成正式功能。
主要功能
四種版本橫跨整個硬體範圍
Gemma 4 從手機到伺服器全包,不必跳出這個系列。E2B 與 Gemma E4B 把記憶體與功耗壓到行動晶片可以負擔的水準,26B 混合專家模型與 Gemma 31B 稠密模型則面向工作站與資料中心 GPU。你只要挑符合手上裝置的版本。
Gemma Apache 2.0 授權
改用 Gemma Apache 2.0 是開發者爭取來的改變。你可以基於這些權重開發商業產品,自由使用、修改與再散布,Google 事後也無法片面改規則。對法務團隊過去卡在舊條款的企業來說,這份明確就是決定性因素。
混合專家架構的效率
26B 模型每處理一個 token 只啟用約 3.8B 的參數,總量為 25.2B,因此跑起來接近小模型的速度,卻保留大模型相當多的品質。在消費級 GPU 上能提供高吞吐量,這對每秒等待都看得見的低延遲代理迴圈格外重要。
原生多模態輸入
四款模型都能讀文字與圖片,邊緣版本另外支援音訊。單一模型就能轉錄語音、回答截圖裡的問題、讀懂圖表,不必拼湊多個專用模型。可變解析度輸入讓你依分類或 OCR 需求,在細節與速度之間取捨。
推理與函式呼叫
這個系列的每款模型都支援可切換的推理模式,以及帶結構化 JSON 輸出的原生函式呼叫。正是這個組合讓模型從一個聊天框變成代理的決策層,能規劃步驟並呼叫外部工具,不需要靠提示詞技巧。
完全在裝置上執行
邊緣模型可在手機、Raspberry Pi 板子與 Jetson 裝置上離線運作,Pixel 團隊也與 Qualcomm、MediaTek 一同投入最佳化。接近零延遲且不依賴網路,讓這個系列適合重視隱私與偏遠環境的部署。
優缺點
優點
- Apache 2.0 授權掃除了先前 Gemma 版本卡住開發者的法務不確定性。
- 版本涵蓋手機一路到工作站,一個系列就能應付多種硬體預算。
- 原生多模態輸入與函式呼叫,讓多數情況不必再加掛其他模型。
- 26B 混合專家版本在消費級 GPU 上提供強勁吞吐量。
- 社群規模大、微調資源多,容易找到接近自己任務的起點。
缺點
- 硬體與安裝都得自己準備,因此沒有代管產品,也沒有支援專線。
- 31B 模型需要 80GB H100 這類高階 GPU,除非進行量化,墊高了入門成本。
- 較小的邊緣版本在困難的數學與程式題目上落後大型版本,無法直接取代雲端旗艦。
- 微調與部署需要實打實的工程投入,成果也取決於你的資料品質。
常見問題
Gemma 是 Google 的開放權重 AI 模型系列,由 Google DeepMind 打造,研究基礎與 Gemini 相同。你下載權重後在自己的硬體上執行,不必使用代管的雲端服務。
相關內容
探索與 Gemma 相關的工具、技能與文章。
Gemma 替代方案
Base Code
Base44 (Wix) · 程式設計 · 生產力Base Code 是 Base44 推出的共享雲端開發環境。團隊在對話中描述對既有 GitHub 儲存庫的修改,看著預覽確認結果,再以 Pull Request 交回工程團隊。
Google EmbeddingGemma 2
Google DeepMind · 寫作 · 圖片 · 程式設計Google EmbeddingGemma 2 是 7.4 億參數的開源模型,能把文字、程式碼、圖片、音訊與影片畫面轉成同一個 768 維空間裡的向量,在手機與筆電上就能執行。
GitGlow
GitGlow · 程式設計 · 生產力GitGlow 是桌面版 Git 用戶端,把你自己的程式碼與 AI 代理程式的變更集中在同一份審查裡,讓你在交付前看清楚機器上究竟要送出什麼。
