Foglamp
Foglamp Labs · Coding
Foglamp ist eine Observability-Plattform für KI-Agenten, die die LLM-Aufrufe Ihrer App überwacht und in Kosten, Latenzzahlen, verteilte Traces, Bewertungen und Alerts umwandelt. Sie hängt sich mit zwei Codezeilen an das Vercel AI SDK, sodass Teams, die KI-Agenten bauen, sehen, was jeder Modellaufruf gekostet hat, wie langsam er lief und wo Ausgaben schiefgingen, bevor Nutzer es merken.
Über Foglamp
Was ist Foglamp
Foglamp ist die Observability-Schicht für das Vercel AI SDK. Es übernimmt Observability für KI-Agenten, indem es jeden Aufruf von generateText und streamText erfasst, den Ihr Code ausführt, und diese Aufrufe dann nach Modell, Agent und Kunde aufschlüsselt, damit Sie aufhören zu raten, woher Ihr Budget und Ihre Fehler kommen. Als KI-Monitoring-Tool sitzt es zwischen Ihrem Agent-Code und den Modellen, die er aufruft.
Das Problem, das es löst, ist leicht zu beschreiben und schwer zu ertragen. Sobald Sie einen KI-Agenten ausliefern, driften Kosten und Qualität leise. Eine Prompt-Änderung kann den Token-Verbrauch verdoppeln. Ein Modellwechsel kann Sekunden an Latenz hinzufügen. Eine schlechte Ausgabe kann durchrutschen, ohne dass sie jemand bemerkt. Foglamp macht diese Verschiebungen sichtbar.
Es ist Open Source unter Apache 2.0, und Sie können es selbst hosten. Das zählt, wenn Ihre Prompts und Antworten Ihre Infrastruktur nicht verlassen dürfen. Der Haken liegt im Fokus. Foglamp ist zuerst für das Vercel AI SDK gebaut. Teams auf anderen Frameworks holen heute weniger daraus.
Erste Schritte
- Erstellen Sie einen Foglamp-API-Schlüssel im Dashboard, oder geben Sie einen aus dem Seed-Skript aus, wenn Sie selbst hosten. Der Schlüssel beginnt mit
fl_. - Installieren Sie das Paket mit
npm i foglamp(auch für pnpm, bun und yarn verfügbar). - Setzen Sie
FOGLAMP_API_KEYin Ihrer Umgebung. Fehlt der Schlüssel, tut Foglamp nichts und nichts bricht, deshalb können Sie ihn bedenkenlos in jeder Umgebung lassen. - Umhüllen Sie das
ai-Modul mitwrap()und benennen Sie Ihre Aufrufe mitfog.with({ agentName: "..." }). Bei AI SDK v7 fügen Sie die Integration stattdessen dem Telemetrie-Array jedes Aufrufs hinzu. - Starten Sie Ihre App und öffnen Sie dann das Dashboard, um zu sehen, wie Traces, Kosten und Latenz hereinrollen.
Produktinformationen
Ein kurzer Überblick über Preise, unterstützte Plattformen und die Leistung von Foglamp.
Am besten für
Die Nutzer, Aufgaben und Szenarien, für die dieses Tool am besten passt.
Nutzer
- KI-Entwickler, die Agenten auf dem Vercel AI SDK ausliefern
- Kleine Produktteams, die KI-Ausgaben beobachten
- Datenschutzbewusste Unternehmen
Aufgaben
- LLM-Kosten nach Modell und Kunde verfolgen
- Langsame Agent-Läufe debuggen
- Produktionsverkehr bewerten
Szenarien
- Einen neuen Agenten in Produktion bringen
- Eine Modellmigration prüfen
- Multi-Agent-Workflows betreiben
Wichtigste Funktionen
Kostenintelligenz
Foglamp erfasst, was jeder Aufruf kostet, und schlüsselt das nach Modell, Agent und Kunde auf. Statt einer verschwommenen Monatsrechnung bekommen Sie eine Zeile für jeden Aufrufer. Das macht es möglich, den einen Agenten oder Kunden zu erkennen, der Ihr Budget leert. Geld leckt schnell.
Verteilte Traces
Jeder Lauf wird zu einer Wasserfallansicht, mit dem exakten Prompt und der Antwort pro Span. Wenn ein Agent etwas Seltsames zurückgibt, können Sie den ganzen Aufrufablauf durchgehen und den Schritt finden, der brach, statt aus Logs zu raten.
Evals im Produktionsverkehr
Sie können echten Verkehr mit Code-Checks und LLM-Richtern bewerten. Das heißt, Qualität wird nicht nur in einer Testsuite gemessen. Schlechte Ausgaben, die an Ihren Staging-Tests vorbeikommen, werden auf Live-Daten markiert, wo sie wirklich zählen. Das ist der ganze Sinn.
Alerts zu Kosten, Latenz und Fehlerrate
Schwellenwertregeln beobachten Kosten, Latenz und Fehlerraten, und der Pro-Plan ergänzt E-Mail- und Slack-Alerts. Sie setzen die Linie, und Foglamp sagt Ihnen, wenn ein Lauf sie überschreitet. Es ist nicht ideal, von einem Latenz-Spike durch Ihre Nutzer zu erfahren.
Verfolgung pro Agent
Die Agents-Ansicht zeigt Spans, Latenz und Ausgaben für jeden Agenten, zusammen mit seinem vollständigen Aufrufablauf. Teams mit mehreren Agenten können sie direkt vergleichen und sehen, welcher langsam oder teuer ist, ohne sich durch gemeinsame Dashboards zu graben.
Zwei-Zeilen-SDK
Das Umhüllen des ai-Moduls kostet zwei Zeilen, und die Funktionen, die Sie zurückbekommen, behalten die eigenen Typen des AI SDK. Ihr bestehender Code funktioniert unverändert weiter. Dieser niedrige Einrichtungsaufwand ist der Hauptgrund, warum kleine Teams es wirklich einschalten. Warum zählt das? Weil das Tool, das niemand installiert, nichts erwischt.
Open Source und selbst hostbar
Foglamp läuft unter Apache 2.0, und der Quellcode liegt auf GitHub. Wenn Ihre Daten Ihre Infrastruktur nicht verlassen dürfen, können Sie es selbst hosten und trotzdem dieselben Traces und Dashboards bekommen. Ein großer Unterschied für regulierte Teams.
Vor- und Nachteile
Vorteile
- Die Einrichtung kostet fast nichts: zwei Codezeilen instrumentieren jeden Aufruf von generateText und streamText.
- Die Kostenverfolgung schlüsselt Ausgaben nach Modell, Agent und Kunde auf, nicht nur nach der Summe.
- Verteilte Traces erfassen den exakten Prompt und die Antwort pro Span, was das Debuggen konkret macht.
- Die Apache-2.0-Lizenz mit einem Weg zum Selbsthosten hält sensible Prompts in Ihrer eigenen Infrastruktur.
Nachteile
- Zuerst für das Vercel AI SDK gebaut, deshalb holen Teams auf anderen Frameworks begrenzten Nutzen daraus.
- Der kostenlose Plan begrenzt Sie auf 10.000 Spans pro Monat mit nur 3 Tagen Aufbewahrung, was einen ausgelasteten Produktionsagenten nicht abdeckt.
- E-Mail- und Slack-Alerts liegen hinter dem Pro-Plan für $49/Monat, kostenlose Nutzer können also die Benachrichtigung verpassen, wenn etwas bricht.
Häufige Fragen
Es zeichnet die LLM-Aufrufe auf, die Ihre App macht, und wandelt sie in Kostenzahlen, Latenzzahlen, Traces, Evals und Alerts um. Sehen Sie es als Monitoring-Dashboard für die KI-Teile Ihres Produkts, nicht als Modell oder Chatbot.
Ähnliche Inhalte
Entdecke passende Tools, Skills und Artikel zu Foglamp.
Alternativen zu Foglamp
Forefront
Forefront · CodingForefront ist eine Webplattform zum Bauen mit Open-Source-KI. Sie lassen sich führende Open-Source-Sprachmodelle mit eigenen Daten feintunen, ihre Leistung bewerten und sie über eine API ausführen oder exportieren, um sie selbst zu hosten. Entwickler, die den Komfort einer geschlossenen Plattform wollen, aber darauf bestehen, ihre Modelle und Daten zu besitzen, sind hier die Zielgruppe.
Startkit
StartKit.AI · CodingStartkit ist ein Boilerplate zum Bauen von KI-SaaS-Produkten und KI-Wrappern. Man kann es sich als KI-Startup-Boilerplate vorstellen, bei dem die langweiligen Teile schon verdrahtet sind: Authentifizierung, Zahlungen über Stripe und Lemon Squeezy, Nutzungslimits, transaktionale E-Mail und ein KI-API-Starter-Kit, das mit OpenAI, Anthropic, Groq oder Llama spricht. Man klont das Repository, setzt seinen Preis und kümmert sich um den Teil des Produkts, für den Menschen wirklich bezahlen. Es basiert auf Next.js über React und Tailwind, deshalb fühlt sich ein Großteil des Boilerplate-Codes schon vertraut an.
Testim
Tricentis · CodingTestim ist eine KI-gestützte Plattform für Testautomatisierung, mit der man End-to-End-Tests für Web-, Mobile- und Salesforce-Anwendungen baut und ausführt. Sie setzt auf maschinelles Lernen, um Tests stabil zu halten, wenn sich eine Oberfläche ändert, sodass Teams weniger Zeit mit der Reparatur kaputter Selektoren verbringen. Nicht schlecht für ein Tool für automatisierte Tests, das Sie heute schon nutzen können. Sie erstellen Tests, indem Sie Aktionen im Browser aufzeichnen, und fügen danach JavaScript hinzu, wenn Sie mehr Kontrolle brauchen. Für ein beschäftigtes QA-Team eine solide Wahl.