關於 RLAMA
What Is RLAMA
RLAMA 是一款為你自己的文件而做的問答工具，整支程式都在你的電腦上執行。它是一款本機 RAG 工具，走命令列，靠 Ollama（能在離線狀態下執行語言模型的應用）把一整個資料夾的檔案變成可查詢的知識庫。開發者以 Apache 2.0 授權釋出，程式碼開放，可免費使用。
做法很單純。你指定一個資料夾，RLAMA 讀取檔案，切成片段，再把你每個片段的向量存到硬碟。你提問時，工具會找出相符的段落，交給你的本機模型，模型就以你的資料為脈絡來回答。這套方法叫檢索增強生成（RAG），正是它讓回答緊扣真實來源，而不是讓模型憑記憶硬掰。
麻煩在安裝。RLAMA 是命令列工具，不是點一下就能用的應用，你得在終端機裡操作，而且要先裝好、開好 Ollama，否則什麼都跑不動。它也沒有雲端版本，這正是自架 RAG 的重點。成果好壞取決於你選的模型和文件品質，硬體不夠力或模型太小，都會反映在回答上。這個專案目前也停擺，所以現在沒有新功能進來。
Getting Started
- 到 ollama.ai 安裝 Ollama，並下載至少一個模型，例如執行 ollama pull llama3。
- 用一行指令安裝 RLAMA：curl -fsSL https://raw.githubusercontent.com/dontizi/rlama/main/install.sh | sh。
- 指定資料夾建立 RAG 系統：rlama rag llama3 我的文件 ./docs。
- 開啟互動工作階段並提問：rlama run 我的文件。
- 之後用 rlama add-docs 補檔案，或打開資料夾監看，讓新檔案自己進索引。
產品資訊
快速了解 RLAMA 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 想要本機文件搜尋的開發者：RLAMA 把一個程式碼或文件資料夾變成可查詢的索引，不用把任何東西送到雲端 API，也貼合終端機的工作方式。
- 重視隱私的團隊：所有流程都走你自己的 Ollama 實例，資料存在 ~/.rlama，機敏檔案不會離開電腦。
- 已經在用 Ollama 的人：模型下載好也跑起來了，RLAMA 幾乎不用額外設定就能加上一層 RAG。
- 想弄懂 RAG 怎麼運作的人：開放的 Go 程式碼加上幾個清楚指令，整個流程都攤在眼前。
任務
- 對一整個文件資料夾提問：RLAMA 會索引資料夾裡的每個檔案，再用這整套內容回答，你不必一頁頁讀。
- 查詢程式碼庫：它支援 Go、Python、JavaScript 等原始碼檔，你可以問某個函式或模組怎麼串起來。
- 從網站建立知識庫：crawl-rag 指令會讀取網站並把頁面建進索引，之後就能提問。
- 讓知識庫保持最新：資料夾監看與網站監控會依排程把新檔案或新頁面加進索引。
- 把 RAG 接進其他工具：內建的 API 伺服器提供查詢端點，你可以從自己的腳本或應用呼叫。
情境
- 接客戶合約、卻不能把檔案上傳到任何地方的自由工作者：本機索引讓檔案留在同一台筆電，回答也保持私密。
- 在大型儲存庫裡翻找的開發者：片段檢視與語意切分能幫你找到正確的段落，而不是整個檔案。
- 手上有一疊 PDF 的研究者：RLAMA 讀得懂 PDF、DOCX 與 EPUB，一堆論文就變成一連串能問的問題。
- 想測試小模型的玩家：Hugging Face 整合讓你先試 GGUF 模型，再決定要不要建成 RAG。
主要功能
本機 RAG 流程
用 rag 指令索引資料夾、用 run 指令查詢，所有內容都存在 ~/.rlama。文件會被讀取、切分、透過 Ollama 轉成向量，再存到硬碟。完全不碰外部伺服器，這正是這套工具的重點。
多種切分策略
RLAMA 用四種方式拆文件：固定大小、語意、階層與混合。混合模式會依檔案類型挑最合適的方法，Markdown 依標題切、程式碼依函式與類別切、純文字依段落切。片段切得好，檢索就更準，很多本機 RAG 工具卡在這一關。
網站爬取與監控
crawl-rag 指令改從網站建立 RAG，而不是資料夾，並能控制爬取深度、並行數與排除路徑。web-watch 會盯著那個網站，把新頁面收進索引，文件站不必手動重建也能保持最新。
資料夾監看
你可以讓某個 RAG 盯著一個資料夾，照固定間隔檢查，或只在這套 RAG 被用到時檢查。新檔案會自己進索引，省下每次改動後還要想著跑 add-docs 的步驟。
內建 API 伺服器
api 指令會啟動一台 HTTP 伺服器，單一 POST /rag 端點接受 RAG 名稱、提示字串與可選的脈絡數量。你可以把本機文件問答接進腳本、小型應用，或不走命令列的工具。
Ollama 與 Hugging Face 模型
RLAMA 的向量與生成都靠 Ollama，也接受 Ollama 跑得動的任何模型。hf-browse 與 run-hf 指令能連到 Hugging Face 的 GGUF 目錄，讓你先搜尋、先試用，再把模型放進 RAG 系統。
優缺點
優點
- 完全離線執行，文件不離開你的電腦，也沒有每次查詢的費用。
- 以 Apache 2.0 授權免費開源，單一 Go 執行檔一行指令就能裝好。
- 四種切分策略加上網站爬蟲，比多數本機 RAG 起步方案走得更遠。
- 內建 API 伺服器讓命令列工具變成其他工具能呼叫的服務。
- 在 Linux、macOS 與 Windows 上都能跑，不依賴雲端。
缺點
- 只有命令列介面，期待桌面應用的人得在終端機裡工作。
- 安裝前要先開好 Ollama 並下載模型，這一步常卡住新手。
- 回答品質跟著你選的模型走，小模型配上弱硬體只會給出淺薄的結果。
- 開發停擺，代表目前沒有新功能，修問題的速度也會變慢。
常見問題
RLAMA 在你自己的檔案上建立私密的問答系統。你索引一個資料夾或一個網站，接著提問，回答就從這些內容而來，全程使用本機 Ollama 模型。
相關內容
探索與 RLAMA 相關的工具、技能與文章。
RLAMA 替代方案
Base Code
Base44 (Wix) · 程式設計 · 生產力Base Code 是 Base44 推出的共享雲端開發環境。團隊在對話中描述對既有 GitHub 儲存庫的修改，看著預覽確認結果，再以 Pull Request 交回工程團隊。
Google EmbeddingGemma 2
Google DeepMind · 寫作 · 圖片 · 程式設計Google EmbeddingGemma 2 是 7.4 億參數的開源模型，能把文字、程式碼、圖片、音訊與影片畫面轉成同一個 768 維空間裡的向量，在手機與筆電上就能執行。
GitGlow
GitGlow · 程式設計 · 生產力GitGlow 是桌面版 Git 用戶端，把你自己的程式碼與 AI 代理程式的變更集中在同一份審查裡，讓你在交付前看清楚機器上究竟要送出什麼。