Heron
Netis · Coding
Heron ist ein Open-Source-Tool für Agent-Observability, das die Turns von KI-Agenten und den LLM-API-Verkehr aus Netzwerkpaketen rekonstruiert statt aus dem eigenen Code. Es liest eine .pcap-Datei, eine Live-Schnittstelle oder eine eBPF-Sonde und zeigt jeden Planner-Schritt, jeden Tool-Aufruf und jede Modellantwort in einem lokalen Dashboard. Kein SDK zum Installieren, kein Proxy zum Durchleiten, und keine Mitarbeit der Anwendungen nötig, die Sie beobachten. Sie wollen wissen, wo die Sekunden und die Fehler wirklich hingehen? Genau dafür ist Heron gebaut. Es eignet sich für die LLM-API-Überwachung auf Hosts, die Sie lieber nicht instrumentieren möchten.
Über Heron
Was ist Heron
Heron ist ein passives Observability-Tool für KI-Agenten. Es erfasst unverschlüsselten HTTP-Verkehr und rekonstruiert, was auf Agentenebene passiert ist, sodass Sie vollständige Turns sehen (Planner → Tool → Ergebnis → nächster Schritt) statt eines Haufens roher Anfragen. Der Anbieter Netis nennt es den „Wireshark für KI-Agenten", und der Vergleich hält: Sie richten es auf den Verkehr und es sagt Ihnen, was dieser Verkehr bedeutet. So einfach ist das.
Der Kerngedanke ist die Null-Intrusion. Die meisten Überwachungstools zwingen Sie, eine Bibliothek hinzuzufügen, einen Client zu umhüllen oder Aufrufe über ein Gateway zu leiten. Heron steht daneben und liest die Leitung. Das zählt, wenn die Arbeitslast eine geschlossene Binärdatei ist, die Sie nicht neu bauen können, oder wenn Sie keinen Instrumentierungscode in der Nähe der Produktion wollen.
Der Nachteil ist derselbe, den Paket-Tools immer haben. Heron sieht unverschlüsseltes HTTP, muss also dort laufen, wo der Verkehr bereits entschlüsselt ist: auf dem Inferenz-Host, hinter dem TLS-Terminator oder gespeist aus einer Paketquelle, der Sie vertrauen. Richten Sie es auf verschlüsselten Verkehr, sieht es nichts Nützliches. Das ist der Haken.
Erste Schritte
- Installieren Sie die einzelne Binärdatei mit dem Einzeiler-Installer, entweder systemweit oder als lokale Benutzerinstallation ohne sudo.
- Geben Sie ihr Paketzugriff. Unter Linux heißt das, einmalig die Capture-Capabilities zu vergeben, oder ihr eine .pcap-Datei zu übergeben, wenn Sie den Live-Verkehr nicht anfassen möchten.
- Führen Sie sie gegen Ihre Quelle aus, zum Beispiel
heron -i eth0unter Linux oderheron --pcap-file capture.pcap, um eine gespeicherte Datei abzuspielen. - Öffnen Sie die lokale Konsole auf Port 3000, um Agent-Turns, Zeitlinien und Metriken zu durchsuchen.
- Exportieren Sie jeden Turn oder die ganze Sitzung als JSONL mit Nachrichten im OpenAI-Stil, wenn Sie Feintuning-Daten wollen.
Produktinformationen
Ein kurzer Überblick über Preise, unterstützte Plattformen und die Leistung von Heron.
Am besten für
Die Nutzer, Aufgaben und Szenarien, für die dieses Tool am besten passt.
Nutzer
- Plattform- und SRE-Ingenieure, die Inferenz-Flotten betreiben und Sicht auf Latenz und Fehler brauchen, ohne den Anwendungscode anzufassen.
- KI-Teams, die Agent-Workflows debuggen, besonders wenn der Agent eine geschlossene Binärdatei ist, die sie nicht instrumentieren können.
- Entwickler, die Feintuning-Datensätze aus echtem Agent-Verkehr statt aus synthetischen Beispielen aufbauen wollen.
Aufgaben
- Eine gespeicherte .pcap abspielen, um genau zu rekonstruieren, was ein Agent während eines fehlgeschlagenen Laufs getan hat.
- Live die Zeit bis zum ersten Token, die Latenz, den Durchsatz und die Fehlerrate je Agent-Art und Modell beobachten.
- Eine Inferenz-Topologie abbilden (Clients → Proxies → Backends), um zu sehen, welche Komponenten welchen Verkehr verarbeiten.
- Agent-Sitzungen als JSONL für überwachtes Feintuning exportieren.
Szenarien
- Ein Produktions-Inferenz-Host, auf dem Sie SDK-Aufrufe im Anfragepfad nicht rechtfertigen können.
- Eine Nachanalyse nach einem Vorfall, bei der Sie einen Paketmitschnitt, aber keine Anwendungsprotokolle haben.
- Prüfen, was ein autonomer Agent tatsächlich aufgerufen hat und in welcher Reihenfolge, nach einem überraschenden Ergebnis.
- Überwachung in einem Labor oder einem CI-Lauf aufsetzen, mit den mitgelieferten .pcap-Testfixtures.
Wichtigste Funktionen
Erfassung ohne Intrusion
Heron liest den Verkehr von der Leitung, an der TLS-Grenze des Hosts oder über eine experimentelle eBPF-Sonde, die unverschlüsselte Daten an der SSL-Lese-/Schreibgrenze abgreift. Kein SDK, kein Proxy, keine Codeänderungen und keine Mitarbeit der beobachteten Arbeitslast. Für Teams mit geschlossenen Binärdateien oder strengen Änderungskontrollen fällt damit der Hauptgrund weg, aus dem Agent-Überwachung aufgeschoben wird.
Rekonstruktion von Agent-Turns
Rohe HTTP-Aufrufe sind schwer zu deuten. Heron fügt Interaktionen aus mehreren Aufrufen zu einzelnen adressierbaren Turns zusammen, sodass ein Planner-Schritt, sein Tool-Aufruf, das Tool-Ergebnis und der Folgeaufruf als eine Erzählung lesbar sind. Sie bekommen die Agent-Geschichte, nicht ein Protokoll zusammenhangloser Anfragen. Das ist der Unterschied. Diese Funktion trennt es von generischen API-Monitoren.
Live-Metrik-Dashboard
Ein einziger Befehl liefert live die Zeit bis zum ersten Token, die Latenz, den Durchsatz, die Fehlerrate und eine Mischung je Agent, alles aus dem Verkehr rekonstruiert und in einer lokalen Web-Konsole dargestellt. Benannte Profile gibt es für Claude Code und OpenAI Codex CLI, dazu ein generisches Profil für alles andere. Wenn Sie sich schon mal Flottenzahlen ohne Metrik-Pipeline gewünscht haben, ist das die Abkürzung. Keine Pipeline nötig.
Dienstklassifizierung und Topologie
Heron findet heraus, was jeder Endpunkt bedient, etwa vLLM, SGLang, Ollama, llama.cpp oder LiteLLM, indem es die Bytes auf der Leitung prüft statt eine Konfigurationsdatei zu lesen. Danach stellt es Ihre Inferenz-Flotte als gerichteten Graphen dar, wobei die Kantendicke mit der Turn-Anzahl skaliert. Falsch konfiguriertes Routing fällt schnell auf, wenn Sie es als Bild sehen.
Export von Feintuning-Daten
Jeder Turn oder jede Sitzung lässt sich als JSONL mit Nachrichten im OpenAI-Stil exportieren, mit Tool-Aufrufen, Ergebnissen und Begründung erhalten und Argumenten, die wieder in Objekte überführt werden. Exportieren Sie einen einzelnen Turn aus seiner Detailansicht oder machen Sie einen Batch-Export aus der Turn-Liste mit dem aktuellen Filter. So wird echter Produktionsverkehr zu Trainingsdaten, die Sie sonst von Hand beschriften müssten.
Pcap-Wiedergabe ohne Privilegien
Kein Live-Mitschnitt nötig. Übergeben Sie Heron eine .pcap mit LLM-Verkehr, und es spielt alles ohne besondere Privilegien ab und lässt die Konsole danach offen, damit Sie stöbern können. Das Repository liefert Fixtures, die Sie testen können, bevor Sie ein echtes System anfassen. Das macht die Bewertung billig. Und sicher.
Vor- und Nachteile
Vorteile
- Wirklich ohne Intrusion: kein SDK, Proxy oder Codeänderungen, läuft also auf Binärdateien, die Sie nicht neu bauen können.
- Rekonstruiert Turns auf Agentenebene statt rohes HTTP auszuschütten, was Sie zum Debuggen wirklich brauchen.
- Eine einzelne statische Binärdatei mit eingebetteter Web-Konsole, hinterlässt also keine Spuren von Installer oder Paketmanager.
- Pcap-Wiedergabe und mitgelieferte Fixtures lassen Sie es ohne Privilegien und ohne Produktionsrisiko bewerten.
- Der JSONL-Export fürs Feintuning macht echten Verkehr zu Trainingsdaten, mit Tool-Aufrufen und Begründung intakt.
Nachteile
- Es sieht nur unverschlüsseltes HTTP, muss also dort laufen, wo TLS schon beendet ist. Richten Sie es auf verschlüsselten Verkehr, bekommen Sie nichts.
- Der eBPF-Erfassungspfad ist experimentell, nur für Linux und braucht CAP_BPF, ist also noch keine Option zum Einrichten und Vergessen.
- Live-Erfassung unter Linux verlangt das Vergeben von Paket-Capabilities, was manche Sicherheitsteams erst prüfen wollen.
Häufige Fragen
Es erfasst Netzwerkverkehr und rekonstruiert daraus die Turns von KI-Agenten und die Interaktionen mit der LLM-API. Statt Ihren Code zu instrumentieren, führen Sie Heron dort aus, wo der Verkehr sichtbar ist, und es rekonstruiert jeden Planner-Schritt, jeden Tool-Aufruf und jede Modellantwort in einem durchsuchbaren Dashboard.
Ähnliche Inhalte
Entdecke passende Tools, Skills und Artikel zu Heron.
Alternativen zu Heron
Forefront
Forefront · CodingForefront ist eine Webplattform zum Bauen mit Open-Source-KI. Sie lassen sich führende Open-Source-Sprachmodelle mit eigenen Daten feintunen, ihre Leistung bewerten und sie über eine API ausführen oder exportieren, um sie selbst zu hosten. Entwickler, die den Komfort einer geschlossenen Plattform wollen, aber darauf bestehen, ihre Modelle und Daten zu besitzen, sind hier die Zielgruppe.
Startkit
StartKit.AI · CodingStartkit ist ein Boilerplate zum Bauen von KI-SaaS-Produkten und KI-Wrappern. Man kann es sich als KI-Startup-Boilerplate vorstellen, bei dem die langweiligen Teile schon verdrahtet sind: Authentifizierung, Zahlungen über Stripe und Lemon Squeezy, Nutzungslimits, transaktionale E-Mail und ein KI-API-Starter-Kit, das mit OpenAI, Anthropic, Groq oder Llama spricht. Man klont das Repository, setzt seinen Preis und kümmert sich um den Teil des Produkts, für den Menschen wirklich bezahlen. Es basiert auf Next.js über React und Tailwind, deshalb fühlt sich ein Großteil des Boilerplate-Codes schon vertraut an.
Testim
Tricentis · CodingTestim ist eine KI-gestützte Plattform für Testautomatisierung, mit der man End-to-End-Tests für Web-, Mobile- und Salesforce-Anwendungen baut und ausführt. Sie setzt auf maschinelles Lernen, um Tests stabil zu halten, wenn sich eine Oberfläche ändert, sodass Teams weniger Zeit mit der Reparatur kaputter Selektoren verbringen. Nicht schlecht für ein Tool für automatisierte Tests, das Sie heute schon nutzen können. Sie erstellen Tests, indem Sie Aktionen im Browser aufzeichnen, und fügen danach JavaScript hinzu, wenn Sie mehr Kontrolle brauchen. Für ein beschäftigtes QA-Team eine solide Wahl.