Meta Notebook Llama
Meta · 生產力 · 其他
Meta Llama 是 Meta 的開放權重 AI 模型家族，包含多模態的 Llama 4 Scout 與 Maverick。使用者下載權重後，可在自己的硬體或第三方服務上執行。
關於 Meta Notebook Llama
About
Meta Llama 是什麼
Meta Llama 是一系列可自由下載權重的語言模型。這條產品線從 2023 年開始，如今涵蓋 Llama 4 Scout、Llama 4 Maverick，以及較早的純文字模型 Llama 3.3 70B 與 Llama 3.1 405B。Meta 負責訓練與公布權重，實際運行交由使用者處理。
這樣的安排就是重點。開放權重 AI 模型把模型檔案交到手上，GPU、量化方式、上下文長度與系統提示詞都由自己決定。除非主動外送，否則流量不會離開自家網路。
代價是維運工作。沒有後台可登入，也沒有逐詞元計費的儀表。硬體要自己採購，推論伺服器要自己架，記憶體要盯著看，版本更新也得自己排。Meta 另外在 2026 年 7 月 6 日關閉了自家的 Llama API，現在要託管存取，得透過 Together AI、Fireworks 這類供應商或自己的雲端帳號。
開始使用
- 在 llama.com 或 Hugging Face 的 Meta Llama 頁面申請存取並接受授權。審核通常很快，需要一個使用相同電子郵件註冊的 Hugging Face 帳號。
- 依硬體挑模型，不要依排行榜挑。Scout 以 4 位元量化可放進單張 80GB GPU；Maverick 需要多張 GPU；Llama 3.3 70B 介於兩者之間。
- 架好推論服務。追求吞吐量通常選 vLLM，筆電與小型機器用 llama.cpp 或 Ollama，整條 Nvidia 生態則用 TensorRT-LLM。
- 先用自己手上的提示詞試跑，再決定要不要信任它。二十個真實工作任務，比任何公開評測更能說明問題。
- 微調或上線。LoRA 轉接器已能涵蓋多數領域調校需求。不想碰 GPU 的話，把客戶端指向提供同一批權重的第三方端點即可。
產品資訊
快速了解 Meta Notebook Llama 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 機器學習工程師與平台團隊：拿到完整檢查點，批次處理、快取與單次請求成本都自己控制，不必租用別人的端點。前提是有 GPU 資源，而且有人能維持推論服務正常運作。
- 研究者與學生：權重用於實驗完全免費，包括在計費 API 上會很貴的微調。雲端 GPU 費用仍要編預算，70B 模型不可能跑在筆電上。
- 有資料落地規範的團隊：提示詞與文件留在自家伺服器，對醫療、法律與公部門特別要緊。託管服務原本代為處理的安全修補，現在得自己扛。
任務
- 私有領域資料微調：LoRA 與完整微調都能在公開權重上執行，產出的轉接器歸自己所有。心理準備是標註幾千筆範例，品質才會有感變化。
- 長文件審閱：Llama 4 Scout 宣稱上下文可達千萬詞元，合約、程式碼庫與卷宗幾乎能整份丟進去。若答案卡在特定條款，檢索仍有幫助。
- 讀取截圖與表單：Llama 4 接受圖片搭配文字，輸出為文字，適合發票擷取、圖表問答與介面檢查。它讀圖，不生成圖。
情境
- 量大而穩定的分類任務：每月處理數百萬筆短請求時，自有 GPU 帶來固定帳單，而不是逐月膨脹的費用。使用率必須維持高檔，否則成本結構會反轉。
- 簽下閉源 API 前的原型驗證：把自家評測集分別丟給 Meta Llama 與託管的頂尖模型，只在自己真正在意的任務上比較。
- 美國託管 API 不方便的部署環境：地端、隔離網路，或供應商不販售的地區，自行架設 LLM 往往只剩這條路。
主要功能
現在就能下載的開放權重
目前每一個 Llama 檢查點都是檔案，接受 Llama 4 社群授權後即可從 llama.com 或 Hugging Face 取得。沒有席次限制，沒有請求額度，正式上線也不必排隊。有幾台伺服器就複製幾份。
Llama 4 Scout 與千萬詞元上下文
Scout 總參數 1090 億，啟動參數 170 億，分配到 16 個專家，Meta 標示上下文最高可達一千萬詞元。整個程式碼儲存庫或一整年的客服工單都放得進去。距離拉長後準確度仍會下滑，驗證工作不能省。
Llama 4 Maverick 處理較難的推理
Maverick 總參數 4000 億，啟動參數 170 億，橫跨 128 個專家，依 Meta 公布的數字，它在程式、推理與多語言評測上都是兩者中較強的一方。服務成本更高，因為每個詞元只啟動一部分參數，整套模型仍得放進記憶體。
原生圖片理解
Llama 4 從訓練階段就是多模態模型，不是文字模型外掛視覺轉接器。提示詞可以混合截圖、照片與圖表，再要求以文字回答。輸出只有文字，對擷取與審閱類工作反而好用。
仍在服役的較小文字模型
上一代並沒有消失。Llama 3.3 70B 支援 128K 上下文，可跑在 8 張 GPU 的節點，或以量化方式放進兩張 80GB 顯示卡。Llama 3.1 8B 依舊是邊緣裝置與低成本批次處理的實用選擇。
微調與量化的多條路徑
LoRA、QLoRA 與完整微調都能搭配標準工具。llama.cpp 有 GGUF 版本，vLLM 有 AWQ 與 GPTQ 版本，Nvidia 也有自家最佳化引擎。實務上通常先量化再微調，因為記憶體才是硬限制。
優缺點
優點
- 權重不收費，唯一帳單是算力。使用率高時，比任何頂尖模型的逐詞元計價都便宜。
- 提示詞、文件與日誌不會離開自家網路，合規稽核因此單純許多。
- Llama 格式背後有六年的工具累積，從 vLLM、Ollama 到各種值得用的微調函式庫都支援。
- Llama 4 的兩個尺寸對應不同工作，量大管飽的任務交給小模型，難題交給大模型。
缺點
- Maverick 實際需要多張大記憶體 GPU，這筆硬體帳單在使用者出現之前就得付。
- Meta 自家 API 已經收掉，第三方供應商淘汰舊模型的通知期又短，備援路徑與版本鎖定都得先準備。
- Llama 4 社群授權不是 OSI 認可的開源授權。月活躍使用者超過 7 億的企業需另談條件，對外發布的成果也受署名規則約束。
常見問題
Meta Llama 是自行執行的通用模型家族。團隊拿它做聊天助理、文件審閱、程式輔助、分類，以及從圖片擷取資料。共通點是工作負載必須留在自己的基礎設施裡。
相關內容
探索與 Meta Notebook Llama 相關的工具、技能與文章。
Meta Notebook Llama 替代方案
Base Code
Base44 (Wix) · 程式設計 · 生產力Base Code 是 Base44 推出的共享雲端開發環境。團隊在對話中描述對既有 GitHub 儲存庫的修改，看著預覽確認結果，再以 Pull Request 交回工程團隊。
Knocket
Knocket (Tencent RTC team) · 生產力 · 商業 · 聊天機器人Knocket 是免費的線上客服與聯絡頁面工具，訪客可從網站、App 或一條分享連結傳訊息，你在 Telegram 或單一收件匣就能回覆。
FloorGen
Vinit Kumar (FloorGen) · 生產力 · 中國 AIFloorGen 是瀏覽器上的平面圖製作工具，能把一句描述或一張草圖變成可編輯的 2D 平面圖與 3D 導覽。可匯出 PDF、DXF 或影片，不註冊也能開始畫。