Foglamp
Foglamp Labs · 코딩
Foglamp는 앱이 보내는 LLM 호출을 지켜보고 이를 비용, 지연 시간 수치, 분산 트레이스, 평가, 알림으로 바꿔 주는 AI 에이전트용 관측성 플랫폼이다. 두 줄의 코드로 Vercel AI SDK에 연결되므로, AI 에이전트를 만드는 팀은 사용자가 알아차리기 전에 각 모델 호출이 얼마를 썼는지, 얼마나 느렸는지, 출력이 어디서 잘못됐는지를 볼 수 있다.
Foglamp 소개
Foglamp란 무엇인가
Foglamp는 Vercel AI SDK를 위한 관측성 레이어다. 코드가 실행하는 모든 generateText와 streamText 호출을 포착해 그 호출을 모델별, 에이전트별, 고객별로 나눔으로써 AI 에이전트 관측성을 담당한다. 그래서 예산과 버그가 어디서 오는지 더 이상 추측하지 않아도 된다. AI 모니터링 도구로서 에이전트 코드와 그 코드가 호출하는 모델 사이에 자리한다.
해결하는 문제는 말하기는 간단하지만 겪으면 괴롭다. AI 에이전트를 출시하는 순간 비용과 품질은 조용히 어긋난다. 프롬프트를 바꾸면 토큰 사용량이 두 배가 될 수 있다. 모델을 교체하면 지연 시간이 몇 초 늘어날 수 있다. 나쁜 출력은 아무도 눈치채지 못한 채 빠져나갈 수 있다. Foglamp는 이런 변화를 눈에 보이게 만든다.
Apache 2.0 아래의 오픈소스이며 직접 호스팅할 수 있다. 프롬프트와 응답이 자사 인프라를 떠날 수 없다면 이 점이 중요하다. 다만 걸림돌은 초점에 있다. Foglamp는 우선 Vercel AI SDK를 위해 만들어졌다. 다른 프레임워크를 쓰는 팀이 지금 얻는 가치는 적다.
시작하기
- 대시보드에서 Foglamp API 키를 만들거나, 직접 호스팅한다면 시드 스크립트에서 출력한다. 키는
fl_로 시작한다. npm i foglamp로 패키지를 설치한다(pnpm, bun, yarn에서도 사용 가능).- 환경에
FOGLAMP_API_KEY를 설정한다. 키가 없으면 Foglamp는 아무것도 하지 않고 아무것도 깨지지 않으므로, 어느 환경에나 안심하고 둘 수 있다. ai모듈을wrap()으로 감싸고fog.with({ agentName: "..." })로 호출에 이름을 붙인다. AI SDK v7에서는 대신 각 호출의 텔레메트리 배열에 통합을 추가한다.- 앱을 실행한 뒤 대시보드를 열어 트레이스, 비용, 지연 시간이 들어오는 것을 본다.
제품 정보
Foglamp의 요금, 지원 플랫폼, 성능을 한눈에 확인해 보세요.
추천 대상
이 도구가 가장 잘 맞는 사용자, 작업, 상황입니다.
사용자
- Vercel AI SDK에서 에이전트를 출시하는 AI 엔지니어
- AI 지출을 지켜보는 소규모 제품 팀
- 프라이버시를 중시하는 기업
작업
- 모델별·고객별 LLM 비용 추적
- 느린 에이전트 실행 디버깅
- 프로덕션 트래픽 채점
활용 상황
- 새 에이전트를 프로덕션에 투입
- 모델 마이그레이션 감사
- 멀티 에이전트 워크플로 실행
주요 기능
비용 인텔리전스
Foglamp는 각 호출에 드는 비용을 기록하고 이를 모델별, 에이전트별, 고객별로 나눈다. 흐릿한 월 청구서 하나 대신 호출자마다 한 줄씩 얻는다. 그래서 예산을 빨아들이는 단 하나의 에이전트나 고객을 짚어낼 수 있다. 돈은 빠르게 샌다.
분산 트레이스
각 실행은 스팬별로 정확한 프롬프트와 응답을 담은 폭포수 뷰가 된다. 에이전트가 이상한 것을 반환하면 로그에서 추측하는 대신 호출 흐름 전체를 따라가며 깨진 단계를 찾을 수 있다.
프로덕션 트래픽에 대한 평가
코드 검사와 LLM 심사로 실제 트래픽을 채점할 수 있다. 이는 품질이 테스트 스위트 안에서만 측정되지 않는다는 뜻이다. 스테이징 테스트를 빠져나간 나쁜 출력은 라이브 데이터에서 표시되는데, 바로 그곳이 정말 중요한 곳이다. 핵심이 그것이다.
비용, 지연 시간, 오류율 알림
임계값 규칙이 비용, 지연 시간, 오류율을 지켜보고, Pro 플랜은 이메일과 Slack 알림을 더한다. 선을 긋는 것은 사용자이며, 실행이 그 선을 넘으면 Foglamp가 알려 준다. 지연 시간 급증을 사용자에게서 듣는 것은 바람직하지 않다.
에이전트별 추적
Agents 뷰는 각 에이전트의 스팬, 지연 시간, 지출을 전체 호출 흐름과 함께 보여 준다. 여러 에이전트를 운영하는 팀은 공유 대시보드를 뒤지지 않고도 직접 비교해 어느 것이 느리거나 비싼지 볼 수 있다.
두 줄짜리 SDK
ai 모듈을 감싸는 데는 두 줄이면 되고, 돌려받는 함수는 AI SDK 자체의 타입을 그대로 유지한다. 기존 코드는 그대로 동작한다. 이 낮은 도입 비용이 소규모 팀이 실제로 켜는 주된 이유다. 왜 중요할까? 아무도 설치하지 않는 도구는 아무것도 잡지 못하기 때문이다.
오픈소스와 자체 호스팅
Foglamp는 Apache 2.0 아래에서 동작하고 소스는 GitHub에 있다. 데이터가 자사 인프라를 떠날 수 없다면 직접 호스팅하고도 같은 트레이스와 대시보드를 얻는다. 규제를 받는 팀에게는 큰 차이다.
장단점
장점
- 도입이 거의 무료에 가깝다. 두 줄의 코드로 모든 generateText와 streamText 호출을 계측한다.
- 비용 추적이 지출을 모델별, 에이전트별, 고객별로 나눈다. 총합만이 아니다.
- 분산 트레이스가 스팬별로 정확한 프롬프트와 응답을 포착해 디버깅을 구체적으로 만든다.
- Apache 2.0 라이선스와 자체 호스팅 경로가 민감한 프롬프트를 자사 인프라에 둔다.
단점
- 우선 Vercel AI SDK를 위해 만들어져 다른 프레임워크를 쓰는 팀이 얻는 가치는 제한적이다.
- 무료 플랜은 월 1만 스팬, 보관 기간 3일로 제한되어 바쁜 프로덕션 에이전트를 감당하지 못한다.
- 이메일과 Slack 알림은 월 $49의 Pro 플랜 뒤에 있어, 무료 사용자는 뭔가 깨질 때 알림을 놓칠 수 있다.
자주 묻는 질문
앱이 보내는 LLM 호출을 기록하고 이를 비용 수치, 지연 시간 수치, 트레이스, 평가, 알림으로 바꾼다. 모델이나 챗봇이 아니라 제품의 AI 부분을 위한 모니터링 대시보드라고 생각하면 된다.
관련 콘텐츠
Foglamp와 관련된 도구, 스킬, 아티클을 살펴보세요.
Foglamp 대안
Forefront
Forefront · 코딩Forefront는 오픈소스 AI로 무언가를 만드는 웹 플랫폼이다. 대표적인 오픈소스 언어 모델을 자신의 데이터로 미세 조정하고, 성능을 평가하고, API로 실행하거나 내보내 직접 호스팅할 수 있다. 폐쇄형 플랫폼의 편의를 원하면서도 모델과 데이터의 소유권은 놓지 않으려는 개발자가 대상이다.
Startkit
StartKit.AI · 코딩Startkit은 AI SaaS와 AI 래퍼 제품을 만들기 위한 보일러플레이트다. 지루한 부분을 미리 연결해 둔 AI 스타트업 보일러플레이트라고 생각하면 된다. 인증, Stripe와 Lemon Squeezy 결제, 사용량 제한, 트랜잭션 이메일, 그리고 OpenAI, Anthropic, Groq, Llama와 통신하는 AI API 스타터 키트가 포함된다. 저장소를 복제하고 가격을 정한 뒤 사용자가 실제로 돈을 내는 부분에 착수하면 된다. React와 Tailwind 위의 Next.js로 만들어졌기 때문에 보일러플레이트 코드의 상당 부분이 이미 익숙하게 느껴진다.
Testim
Tricentis · 코딩Testim은 웹, 모바일, Salesforce 애플리케이션 전반에 걸쳐 엔드투엔드 테스트를 만들고 실행하는 AI 기반 테스트 자동화 플랫폼이다. 머신러닝에 기대어 인터페이스가 바뀌어도 테스트를 안정적으로 유지하므로, 팀은 깨진 셀렉터를 고치는 데 쓰는 시간을 줄인다. 오늘부터 쓸 수 있는 자동화 테스트 도구치고 나쁘지 않다. 브라우저에서 동작을 녹화해 테스트를 만들고, 더 세밀한 제어가 필요하면 JavaScript를 더한다. 바쁜 QA 팀에게 탄탄한 선택이다.