Foglamp
Foglamp Labs · 程式設計
Foglamp 是一款 AI 代理可觀測性平台，會監看你的應用程式發出的 LLM 呼叫，並將其轉換為成本、延遲數據、分散式追蹤、評估與警示。它只要兩行程式碼就能接上 Vercel AI SDK，因此打造 AI 代理的團隊能看到每次模型呼叫花了多少錢、跑得多慢，以及在使用者察覺之前輸出在哪裡出了錯。
關於 Foglamp
Foglamp 是什麼
Foglamp 是 Vercel AI SDK 的可觀測性層。它透過擷取你的程式碼所執行的每一次 generateText 與 streamText 呼叫來處理 AI 代理可觀測性，接著把這些呼叫依模型、代理與客戶拆解，讓你不再猜測預算和臭蟲從何而來。作為一款 AI 監控工具，它位於你的代理程式碼與其呼叫的模型之間。
它解決的問題說來簡單，過起來卻痛苦。一旦你把 AI 代理推上線，成本與品質就會悄悄偏移。一次提示詞調整可能讓 token 用量翻倍。一次模型替換可能多出好幾秒延遲。一份糟糕的輸出可能神不知鬼不覺地溜過去。Foglamp 讓這些變化變得看得見。
它是以 Apache 2.0 授權的開源專案，你可以自行架設。如果你的提示詞與回應不能離開自家基礎設施，這點就很重要。但重點在於取向：Foglamp 首先是為 Vercel AI SDK 而打造。目前使用其他框架的團隊能從它身上得到的價值較少。
開始使用
- 在儀表板建立一組 Foglamp API 金鑰，若你自行架設，也可從種子腳本印出一組。金鑰以
fl_開頭。 - 用
npm i foglamp安裝套件（也支援 pnpm、bun 與 yarn）。 - 在環境中設定
FOGLAMP_API_KEY。若金鑰缺失，Foglamp 什麼都不做，也不會壞掉，因此可以放心留在每個環境中。 - 用
wrap()包住ai模組，並用fog.with({ agentName: "..." })為你的呼叫命名。在 AI SDK v7 上，改為把整合加進每次呼叫的遙測陣列。 - 執行你的應用程式，然後打開儀表板，看著追蹤、成本與延遲陸續進來。
產品資訊
快速了解 Foglamp 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 在 Vercel AI SDK 上推出代理的 AI 工程師：Foglamp 幾乎不需改動程式碼就能為呼叫加上instrumentation，所以他們不用重寫技術堆疊就能取得可視性。
- 關注 AI 支出的小型產品團隊：依代理與依客戶的成本追蹤能顯示誰在燒預算，這讓失控的 token 用量不會在月底嚇到他們。
- 重視隱私的公司：Apache 2.0 授權與自行架設選項讓他們把提示詞與回應留在自家基礎設施內。
任務
- 依模型與客戶追蹤 LLM 成本：Foglamp 把每次呼叫歸屬於某個模型、某個代理與某個客戶，因此你能確切看出錢花到哪去。
- 除錯執行緩慢的代理：分散式追蹤把每次執行攤成瀑布圖，並顯示每個 span 確切的提示詞與回應，這縮短了找出慢步驟的時間。
- 為正式環境流量評分：程式碼檢查與 LLM 評審以評估形式執行，因此你能在即時流量上標記糟糕輸出，而不必等客訴上門。
情境
- 把新代理推上正式環境：當代理表現失常，成本、延遲與錯誤率警示就會觸發，因此你能及早抓到退步。
- 稽核模型迁移：當你從一個模型換到另一個，追蹤與評估會顯示品質與速度是否真的撐住。
- 執行多代理工作流程：依代理的 span 與花費讓你並排比較各代理，找出貴的那個。
主要功能
成本智慧
Foglamp 記錄每次呼叫的成本，並依模型、代理與客戶拆解。你不會再看到一張模糊的月帳單，而是每個呼叫者各有一行。這讓你能揪出正在掏空預算的那個代理或客戶。錢漏得很快。
分散式追蹤
每次執行都會變成瀑布圖檢視，並逐 span 擷取確切的提示詞與回應。當代理回傳奇怪的東西，你可以走過整段呼叫流程，找出壞掉的那一步，而不是從紀錄檔瞎猜。
對正式環境流量做評估
你可以用程式碼檢查與 LLM 評審為真實流量評分。這代表品質不只在測試套件裡衡量。溜過你預備環境測試的糟糕輸出，會在即時資料上被標記，而那裡才是它真正要緊的地方。重點就在這。
成本、延遲與錯誤率警示
門檻規則會監看成本、延遲與錯誤率，Pro 方案還加上電子郵件與 Slack 警示。你劃下界線，Foglamp 在執行越線時告訴你。從使用者那裡得知延遲飆高，可不太理想。
依代理追蹤
Agents 檢視會顯示每個代理的 span、延遲與花費，以及它完整的呼叫流程。執行多個代理的團隊可以直接比較，看出哪個慢或哪個貴，不必在共用儀表板裡翻找。
兩行程式碼的 SDK
包住 ai 模組只要兩行，而你取回的函式仍保留 AI SDK 自己的型別。你現有的程式碼照舊運作。這麼低的設定成本，正是小型團隊真的會啟用它的主因。這為什麼要緊？因為沒人安裝的工具什麼都抓不到。
開源且可自行架設
Foglamp 以 Apache 2.0 運作，原始碼放在 GitHub 上。如果你的資料不能離開自家基礎設施，你可以自行架設，依然取得同樣的追蹤與儀表板。對受監管的團隊來說差別很大。
優缺點
優點
- 設定幾乎免成本：兩行程式碼就能為每次 generateText 與 streamText 呼叫加上instrumentation。
- 成本追蹤依模型、代理與客戶拆解花費，而不只是看總額。
- 分散式追蹤逐 span 擷取確切的提示詞與回應，讓除錯變得具體。
- Apache 2.0 授權加上自行架設的路徑，讓敏感提示詞留在你自己的基礎設施上。
缺點
- 首先是為 Vercel AI SDK 打造，因此其他框架的團隊得到的價值有限。
- 免費方案每月上限 10,000 個 span，且只保留 3 天，這撐不住一個忙碌的正式環境代理。
- 電子郵件與 Slack 警示藏在每月 $49 的 Pro 方案之後，所以免費使用者可能在某個東西壞掉時漏掉通知。
常見問題
它記錄你的應用程式發出的 LLM 呼叫，並把它們轉換成成本數據、延遲數據、追蹤、評估與警示。把它想成你產品中 AI 部分的監控儀表板，而不是一個模型或聊天機器人。
相關內容
探索與 Foglamp 相關的工具、技能與文章。
Foglamp 替代方案
Forefront
Forefront · 程式設計Forefront 是一個用來打造開源 AI 的網頁平台。你可以用自己的資料微調主流的開源語言模型、評估它們的表現，再透過 API 執行，或匯出後自行架設。想要封閉式平台的便利、卻堅持要自己擁有模型與資料的開發者，就是這裡的目標客群。
Startkit
StartKit.AI · 程式設計Startkit 是一套用來打造 AI SaaS 與 AI 包裝產品的樣板。可以把它想成一個 AI 新創樣板，把枯燥的部分都先接好了：驗證、Stripe 與 Lemon Squeezy 付款、用量限制、交易型電子郵件，以及一套能與 OpenAI、Anthropic、Groq 或 Llama 溝通的 AI API 啟動套件。你複製儲存庫、設定價格，然後專心在產品中使用者真正願意付費的部分。它建構於 React 與 Tailwind 之上的 Next.js，所以大部分的樣板程式碼對你來說並不陌生。
Testim
Tricentis · 程式設計Testim 是專為網頁、行動與 Salesforce 應用程式打造的 AI 測試自動化平台，用來建立並執行端到端測試。它靠機器學習在介面變動時維持測試穩定，團隊因此少花時間修補壞掉的定位器。對於一款今天就能開始使用的自動化測試工具來說，這表現不算差。你透過在瀏覽器錄製動作來建立測試，需要更多控制時再補上 JavaScript。對忙碌的 QA 團隊來說，這是個可靠的選擇。