Gemma

Gemma

Google (Google DeepMind) · 程式設計 · 其他

Gemma 是 Google 的開放權重 AI 模型系列,可以下載到自己的硬體上執行。Gemma 4 從手機版本一路涵蓋到工作站用的 31B 模型。

Gemma 的介面預覽

關於 Gemma

About

什麼是 Gemma

Gemma 是 Google 開源模型家族中的開放權重語言模型系列,由 Google DeepMind 打造,與封閉的 Gemini 模型共享研究基礎。兩者最大的差別在於模型跑在哪裡。Gemini 在 Google 的雲端運作,而 Gemma 的開放權重任何人都能下載、修改,並部署在自己的機器上。從 2024 年 2 月首次發布至今,這個系列已經累積超過 4 億次下載,社群衍生的版本超過 10 萬個。

目前的世代是 Gemma 4,於 2026 年 4 月 2 日推出,共有四種版本。兩款輕量版 E2B 與 Gemma E4B 針對手機、Raspberry Pi 板子與 Jetson 裝置設計,可以完全離線執行;兩款較大的版本分別是 26B 的混合專家模型與 31B 的稠密模型,面向開發者工作站與伺服器。四款都能處理圖片,邊緣版本另外支援音訊。

最大的變化在法務面,不在技術面。Gemma 4 從 Google 自家的 Gemma 授權,也就是開發者抱怨了整整一年的那套條款,改用 Apache 2.0。這個授權讓企業可以直接使用、修改與再散布模型來做商業產品,不必先向 Google 取得許可。有一個 31B 版本在開放模型 Arena 排行榜上排第三,Google 也稱這個系列是單位位元組中能力最強的開放模型。

代價是開放權重意味著硬體、安裝與後續維護都得自己來。沒有代管的聊天產品,沒有客服窗口,也無法保證某個微調版本在每項任務上都能追上雲端模型。

開始使用

  1. 挑選符合手上硬體的版本:手機與小型板子選 E2B 或 E4B,GPU 與工作站選 26B 與 31B。
  2. 從官方管道下載權重,例如 Gemma Hugging Face、Kaggle 或 ModelScope,並留意 Apache 2.0 的條款。
  3. Gemma 本機執行的方式,是把模型載入 Ollama、llama.cpp、LiteRT-LM 或 Python 等執行環境,記憶體吃緊時再量化。
  4. 若基礎模型在你的領域表現不足,用自己的資料做微調,接著透過函式呼叫或 API 接進應用程式。Gemma 微調沿用標準框架,流程對開發者來說並不陌生。
  5. 上線前用真實工作負載測試,因為裝置端的輸出品質會隨版本大小與量化程度變化。

產品資訊

快速了解 Gemma 的定價、支援平台與效能。

免費方案是
付費方案$0
平台Windows, macOS, Linux, Android, iOS, Raspberry Pi, NVIDIA Jetson, web
開發者Google (Google DeepMind)
類別程式設計 · 其他
發布日期Feb 2024
最近更新Apr 2025
網站訪問量6.7M
網站全球排名N/A
API 提供狀態是

適合對象

這項工具最適合的使用者、任務與情境。

使用者

  • 開發離線應用程式的工程師:Gemma 裝置端 AI 讓 E2B 與 E4B 在手機與單板電腦上離線運作,適合不能把資料送到伺服器的應用。
  • 研究人員與動手玩的人:權重開放,可以自行檢視、量化,並針對特定領域微調,不必付雲端費用。
  • 預算有限的初創團隊:Apache 2.0 移除了舊 Gemma 授權的法務摩擦,小團隊能直接推出商業產品,不用額外談判。
  • 學習機器學習的學生:把真正的模型下載到本機執行,能實際看到推論、量化與工具呼叫怎麼運作。

任務

  • 在本機跑程式助理:31B 模型離線處理程式碼生成與重構,原始碼留在自己的機器,而不是送到雲端服務。
  • 在裝置上理解語音與圖片:邊緣模型支援音訊與圖片,轉錄與圖片問答不必來回伺服器。
  • 處理長文件:大型模型具備 256K token 的上下文視窗,足以一次讀完整份文件或一個程式碼庫。
  • 建立代理工作流程:原生函式呼叫與結構化 JSON 輸出讓模型自行決定要呼叫哪個工具或 API,適合背景自動化。

情境

  • 在沒有網路的環境工作:工廠產線、野外據點或飛機上,都是雲端連不到而離線模型照常運作的地方。
  • 把敏感資料留在自家:醫療紀錄與內部程式碼能留在本機硬體,避開雲端推論帶來的隱私問題。
  • 快速做 AI 功能原型:一個下午就能在筆電上架起聊天機器人或摘要工具,不必等企業雲端審核。
  • 把原型移植到行動裝置:以邊緣模型打造的應用符合 Android 裝置端 AI 的方向,實驗成果有機會長成正式功能。

主要功能

四種版本橫跨整個硬體範圍

Gemma 4 從手機到伺服器全包,不必跳出這個系列。E2B 與 Gemma E4B 把記憶體與功耗壓到行動晶片可以負擔的水準,26B 混合專家模型與 Gemma 31B 稠密模型則面向工作站與資料中心 GPU。你只要挑符合手上裝置的版本。

Gemma Apache 2.0 授權

改用 Gemma Apache 2.0 是開發者爭取來的改變。你可以基於這些權重開發商業產品,自由使用、修改與再散布,Google 事後也無法片面改規則。對法務團隊過去卡在舊條款的企業來說,這份明確就是決定性因素。

混合專家架構的效率

26B 模型每處理一個 token 只啟用約 3.8B 的參數,總量為 25.2B,因此跑起來接近小模型的速度,卻保留大模型相當多的品質。在消費級 GPU 上能提供高吞吐量,這對每秒等待都看得見的低延遲代理迴圈格外重要。

原生多模態輸入

四款模型都能讀文字與圖片,邊緣版本另外支援音訊。單一模型就能轉錄語音、回答截圖裡的問題、讀懂圖表,不必拼湊多個專用模型。可變解析度輸入讓你依分類或 OCR 需求,在細節與速度之間取捨。

推理與函式呼叫

這個系列的每款模型都支援可切換的推理模式,以及帶結構化 JSON 輸出的原生函式呼叫。正是這個組合讓模型從一個聊天框變成代理的決策層,能規劃步驟並呼叫外部工具,不需要靠提示詞技巧。

完全在裝置上執行

邊緣模型可在手機、Raspberry Pi 板子與 Jetson 裝置上離線運作,Pixel 團隊也與 Qualcomm、MediaTek 一同投入最佳化。接近零延遲且不依賴網路,讓這個系列適合重視隱私與偏遠環境的部署。

優缺點

優點

  • Apache 2.0 授權掃除了先前 Gemma 版本卡住開發者的法務不確定性。
  • 版本涵蓋手機一路到工作站,一個系列就能應付多種硬體預算。
  • 原生多模態輸入與函式呼叫,讓多數情況不必再加掛其他模型。
  • 26B 混合專家版本在消費級 GPU 上提供強勁吞吐量。
  • 社群規模大、微調資源多,容易找到接近自己任務的起點。

缺點

  • 硬體與安裝都得自己準備,因此沒有代管產品,也沒有支援專線。
  • 31B 模型需要 80GB H100 這類高階 GPU,除非進行量化,墊高了入門成本。
  • 較小的邊緣版本在困難的數學與程式題目上落後大型版本,無法直接取代雲端旗艦。
  • 微調與部署需要實打實的工程投入,成果也取決於你的資料品質。

常見問題

Gemma 是 Google 的開放權重 AI 模型系列,由 Google DeepMind 打造,研究基礎與 Gemini 相同。你下載權重後在自己的硬體上執行,不必使用代管的雲端服務。