QAgent

QAgent

QAgent Inc. · 程式設計 · 商業

QAgent 是一套專為 AI 代理打造的自動化品質保證平台。你把平台指向代理的端點,定義它該遵循的基準事實,平台就會在每次發布時執行測試套件,為回答品質、幻覺率、政策遵循度與多輪記憶評分。它是一款任何人都能在幾分鐘內上手的 LLM 評估工具。它為獨立開發者與小型團隊而設計,讓他們在沒有專職 QA 部門的情況下也能推出代理。

QAgent 的介面預覽

關於 QAgent

QAgent 是什麼

QAgent 是一個網頁式測試平台,回答多數 AI 開發者直接跳過的關鍵問題:你的代理真的給出正確答案嗎?與其在測試場裡讀幾則回覆然後祈禱一切順利,你把代理接上,讓 QAgent 在每次提示詞變更後執行同一套檢查。

這項產品針對一個明確的缺口。開發者會對後端程式碼做單元測試,也會驗證 API 端點,但當 LLM 為真實使用者生成答案的那一刻,品質檢查就變成人工抽查。這就是問題所在。QAgent 把代理的輸出視為可測試的對象,並依你寫下的規則評分,而不是依當下聽起來很有說服力的內容。

主要限制在於範圍。QAgent 評估準確度、安全性與一致性。它不會替你修好提示詞,而它的評分優劣完全取決於你餵給它的基準事實。所以請寫下真實的規則。如果你的退款政策或價格方案沒有定義清楚,評審就沒有東西可以比對。

開始使用

  1. 建立免費帳號,並透過 webhook 端點、LangChain 工作流程或單純的 HTTP POST 目標連接你的代理。
  2. 定義基準事實:價格方案、退款期限、禁用主題,以及代理應該遵循的任何知識文件。
  3. 撰寫測試評分規準,把提示詞與預期行為配對,並使用清楚的「必須」與「不得」規則。
  4. 執行套件並檢視通過或未通過的評等,以及每個失敗的逐步根本原因。
  5. 把同一套套件接進你的發布流程,讓提示詞編輯在部署前重新評分。

產品資訊

快速了解 QAgent 的定價、支援平台與效能。

免費方案是
付費方案$0 - $29/mo
平台Web
開發者QAgent Inc.
類別程式設計 · 商業
發布日期Jan 2025
最近更新Jan 2026
網站訪問量N/A
網站全球排名N/A
API 提供狀態是

適合對象

這項工具最適合的使用者、任務與情境。

使用者

  • 獨立開發者:QAgent 取代你上線前原本會進行的人工測試場操作,免費方案也涵蓋早期原型。
  • 沒有聘請 QA 人員的小型團隊:固定月費方案加入自動化退步檢查,不需要企業合約或業務電話。
  • 自由工作者與代理商:品質稽核報告在交付前給客戶一份可佐證的基礎穩固度與政策遵循度證明。

任務

  • 捕捉幻覺:每一項主張都會對照你的基準規則與文件,因此捏造的政策會在客戶看到之前浮現。
  • 追蹤提示詞退步:提示詞退步測試顯示某個修正是否悄悄破壞了其他位置的行為。
  • 驗證 RAG 引用:RAG 評估檢視答案是否真的使用了檢索到的片段,或者向量分數乾淨卻仍憑空編造。
  • 測試多輪記憶:衡量對話在哪裡開始劣化,以及代理是否到第五輪就忘記上下文。

情境

  • 深夜為了修正某位客戶的邊緣案例而調整提示詞,接著在約一分鐘內跑完一次完整的退步測試。
  • 把 AI 聊天機器人交給客戶時,附上一份顯示事實穩固度與政策遵循度的評分表。
  • 以自動化評估結果而不是直覺來把關部署發布。
  • 測試對抗性輸入,確認代理會轉交真人處理,而不是承諾它給不起的折扣。

主要功能

八項評估維度

QAgent 以八項獨立指標為代理評分,而不是單一模糊分數。這些指標涵蓋回答品質、事實穩固度、政策遵循度、轉交正確性、RAG 忠實度、上下文相關性、上下文召回與多輪記憶,每一項維度都對應一種真實的生產環境失效模式。這個細節很重要。一個低數字指向具體問題,而不是籠統的氛圍。

確定性的 LLM 擔任評審評分

QAgent 不是比對字串或正規表達式,而是用一個校準過的評審模型交叉檢視每一則回覆。它跑在 Groq LPU 上以換取速度,這在你想要整套退步測試在一分鐘內跑完時很重要。通過與未通過的判定會附上信心水準,所以你知道某個結果何時貼近界線,值得在信任它之前再人工細看一次。

基準事實與評分規準系統

每個測試結合三項要素:你的官方規則、帶有 RFC 2119 風格預期行為的測試提示詞,以及代理的即時回覆。評審嚴格依評分規準檢查。一個客氣但錯誤的答案仍然不通過。這就是 QAgent 與聊天視窗裡憑感覺檢查的差別。

針對誤判的智慧豁免

評審分得清幻覺與正常行為。每次工作階段都會變動的工單編號、即時餘額與客氣問候不會被標記為沒有依據的主張。很好。如果排名最高的檢索片段已包含完整答案,排名較低的結果不會拖低分數。越獄測試不會因為缺少攻擊文件而懲罰檢索器。

提示詞退步追蹤

QAgent 記錄每一次提示詞迭代的分數變化。你立刻就能看出修正某個案例的變更是否在別處造成下滑。這正是重點。對於經常編輯系統提示詞的團隊,這把無聲的劣化變成圖表上一條看得見的線。

品質稽核報告

Solo 方案可匯出 CSV 與可直接列印的品質稽核報告。這些報告顯示穩固度百分比、RAG 忠實度與政策遵循度,當客戶想要證據而不是口頭承諾時特別有用。把檔案寄過去。報告讓一次測試執行變成可以附在專案交付上的東西。

優缺點

優點

  • webhook 設定約兩分鐘,不必安裝 SDK,也不必寫樣板程式碼。
  • 八項具名維度給出具體回饋,而不是一個混合分數。
  • 每月 100 次評估的免費方案,讓你付費前輕鬆試用。
  • 透明的稽核軌跡顯示每次測試的查詢、評分規準、回覆與評估者發現。
  • 固定月費定價,沒有年度綁約或業務電話。

缺點

  • 免費方案只能連接一個代理端點,所以要測試多個代理就得用付費方案。
  • 評分完全取決於你提供的基準事實;模糊的規則只會產生模糊的結果。
  • 平台仍在 beta 階段,因此功能與限制可能變動。

常見問題

它測試你的 AI 代理是否給出正確且符合政策的答案。這涵蓋幻覺偵測、指令遵循、RAG 忠實度、轉交行為與多輪記憶,並以八項維度評分。