RAGaaS

RAGaaS

RAGaaS · 程式設計

RAGaaS 是一款以隱私為先的託管式 RAG API,接上你自己的相容 S3 儲存空間、向量資料庫與 LLM 金鑰,分塊、嵌入與搜尋都交給它處理。

RAGaaS 的介面預覽

關於 RAGaaS

What Is RAGaaS

RAGaaS 是 Retrieval Augmented Generation as a Service 的縮寫,也就是把檢索增強生成做成服務。它是一套託管 API,讓團隊不必自己鋪設底層管線,就能做出 RAG 應用。你把文件指給它看,剩下的它來扛:把文字切成片段、轉成嵌入、存好向量,等查詢進來時再挑出相關段落丟回來。

RAGaaS 跟多數 RAG 即服務平台最大的差別,在於資料放在哪裡。它不會把你的文件複製到廠商的雲端,而是接上你本來就能掌控的儲存空間與資料庫。你自備相容 S3 的儲存桶、向量資料庫,以及自家 LLM 供應商的金鑰,服務則透過一組精簡 API 把這些串起來。廠商把這套說法講成隱私優先的 AI:你的檔案與憑證都留在自己的帳號裡。

另一面是,RAGaaS 預設你對基礎架構不陌生。要有能運作的儲存桶、向量索引與 API 金鑰,它才跑得起來,這就排除了非技術背景的使用者。加上目前公開文件不多,而原本的 ragaas.dev 網域如今轉向 SiteGPT,打算採用的人最好先跟廠商確認產品是否還在營運,再決定要不要把系統蓋在上面。

Getting Started

  1. 建立帳號,接上一個相容 S3 的儲存桶,作為文件存放的位置。
  2. 串接向量資料庫,並填入 LLM 供應商的 API 金鑰,讓服務能產生與查詢嵌入。
  3. 呼叫文件處理端點來匯入檔案,分塊與嵌入生成就會跟著啟動。
  4. 用第二個 API 呼叫送出搜尋查詢,取回可供 LLM 引用的佐證段落。
  5. 把回傳的上下文接進你自己的應用或模型,產出附上來源的答案。

產品資訊

快速了解 RAGaaS 的定價、支援平台與效能。

免費方案否
付費方案N/A
平台Web (API service)
開發者RAGaaS
類別程式設計
發布日期Jan 2024
最近更新Oct 2024
網站訪問量N/A
網站全球排名N/A
API 提供狀態是

適合對象

這項工具最適合的使用者、任務與情境。

使用者

  • 打造 RAG 功能的後端與機器學習工程師:RAGaaS 適合本來就顧得動儲存桶與向量索引、想把匯入流程外包的人。
  • 對資料落地有嚴格要求的團隊:文件留在自家儲存空間與資料庫,適合不能把檔案送往第三方雲端的公司。
  • 沒有基礎架構專才的小型產品團隊:兩個呼叫的 API 把介面縮小,一般工程師就能串起檢索,不必養一個平台團隊。

任務

  • 匯入一批文件:把檔案送進處理呼叫,讓服務代替你分塊與嵌入。
  • 為私有文件加上搜尋:用搜尋呼叫取出有憑有據的段落,讓聊天機器人或內部助理能引用。
  • 替 RAG 應用換掉 LLM:金鑰由你提供,想換一家供應商測試,不必重做匯入。

情境

  • 建在機密檔案上的內部知識庫:資料留在自家儲存空間,合規問題在試辦之前就先有了答案。
  • 必須標明來源的客服助理:檢索這一步會回傳自家文件裡的段落,答案層可以直接引用。
  • 得盡快做出檢索的原型:兩個端點的 API 省下從零搭管線常要花的幾週時間。

主要功能

自備儲存空間與向量資料庫

RAGaaS 跑在你自己的基礎架構上:文件放在相容 S3 的儲存桶,向量資料庫也由你掌控。服務負責管理兩者之間的連接,而不是代管你的資料,這正是它隱私主張的核心,也是受監管團隊看上它的原因。

兩個呼叫搞定處理與搜尋

給開發者的介面刻意做得精簡。一個呼叫處理文件,含分塊與嵌入生成;第二個呼叫負責搜尋。談到這款產品的人,多半把這套兩段式流程列為最大賣點,因為它省掉了手刻 RAG 管線時要寫的黏合程式。

代管分塊與嵌入生成

服務會把進來的文件切成片段,再替你轉成嵌入。這一段最常被低估,因為片段大小與嵌入模型的選擇,在還沒寫任何提示詞之前,就已經決定了檢索品質。

針對你的索引優化搜尋

文件嵌入完成後,RAGaaS 接手檢索,並調整結果面對查詢時的排序方式。你拿回的是相關段落,而不是原始向量比對結果,LLM 收到的上下文才真的用得上。

自己的 LLM 金鑰

模型供應商的金鑰由你提供,生成步驟跑在你親自挑選、直接付費的供應商上。模型成本與廠商條款都留在你手上,不會被綁進平台訂閱裡。

有人代管的基礎架構

廠商把 RAGaaS 定位成負責 RAG 管線的日常維護,例如讓嵌入與來源文件保持同步,內容長大時把檢索規模撐起來。對小團隊來說,這份維護工作往往就是選擇託管服務、而非自架的理由。

優缺點

優點

  • 文件留在自家相容 S3 的儲存空間與向量資料庫,面對資料落地與合規審查時好交代。
  • API 精簡,一個呼叫處理文件、一個呼叫搜尋,整合工作量比手刻管線少。
  • 自備 LLM 金鑰,模型選擇與模型花費都操之在己。
  • 代管分塊與嵌入生成,省下自己打造與調校這條管線的功夫。

缺點

  • 預設你得懂技術設定:要有能跑的儲存桶、向量索引與供應商金鑰才能啟動,非開發者用不了。
  • 公開文件偏少,API 的確切行為與限制事前不容易確認。
  • 原本的 ragaas.dev 網域如今轉向 SiteGPT,產品是否還有人維護並不明朗,等於冒著綁在沒有明確路線圖的服務上的風險。
  • 價格並未公開,不直接問廠商就無法把使用成本跟自架方案相比。

常見問題

RAGaaS 是一套託管式檢索增強生成 API。它匯入你的文件,負責分塊與嵌入,把向量存進你掌控的資料庫,搜尋時回傳相關段落,讓你的應用能依據自家內容回答問題。