Context Gateway

Hier zählt das Timing. Statt zu warten, bis das Gespräch die Grenze erreicht, und dann zum Zusammenfassen anzuhalten, berechnet Context Gateway die Zusammenfassung im Hintergrund vor, während die Sitzung wächst. Überschreiten Sie die Schwelle, ist die Kompaktierung sofort fertig, weil die Arbeit bereits getan ist. Wer schon erlebt hat, wie ein Coding-Agent mitten in der Aufgabe einfriert, für den ist genau dieser Wechsel der Kern. Schluss mit dem Blick auf den drehenden Kreis.

Der Assistent bringt Voreinstellungen für claude_code und cursor mit, die zwei gängigsten KI-Coding-Umgebungen, dazu openclaw und eine Option custom für Ihre eigene Konfiguration. Sie schreiben Ihren Agenten nicht um, um ihn zu nutzen. Die KI-Kontextkomprimierung läuft als Proxy vor der LLM-API, und Ihre bestehenden Werkzeuge bleiben, wo sie sind.

Unter dem Gateway sitzt die Komprimierungs-API von Compresr, die Ihren Kontext gegen die tatsächliche Anfrage bewertet. Das ist LLM-Kontextoptimierung richtig gemacht. Sie behält die Spannen, die die Antwort tragen, und lässt den Rest fallen, statt blind zu komprimieren. Der eigene Benchmark des Unternehmens auf FinanceBench behauptet, dass die Genauigkeit bei leichter Komprimierung hält und sich sogar verbessern kann. Diese Zahlen stammen vom Anbieter, also behandeln Sie sie als Marketing, bis unabhängige Ergebnisse vorliegen.

Die Komprimierungsschwelle liegt standardmäßig bei 75 % des Kontextfensters, doch Sie setzen sie selbst in der Einrichtung. Senken Sie sie, wenn Sie lieber früh komprimieren und weit von der Grenze wegbleiben. Heben Sie sie an, wenn Sie mehr rohen Verlauf behalten wollen. Slack-Benachrichtigungen können Sie anpingen, wenn ein Komprimierungsereignis auslöst.

Jede Kompaktierung wird in logs/history_compaction.jsonl geschrieben, sodass Sie prüfen können, was wann komprimiert wurde. Diese Transparenz zählt, wenn Sie einem Werkzeug zutrauen, Ihren Gesprächsverlauf still umzuschreiben. Sieht die Ausgabe falsch aus, haben Sie ein Protokoll zum Nachsehen. Auf anderem Wege sollte man es besser nicht erfahren.

Über das Gateway hinaus bietet Compresr eine Prompt-Komprimierungs-API als gehostetes SDK, mit TypeScript- und Python-Clients und einem Preis pro Million Tokens. Eine Vor-Ort-Variante läuft in Ihrem eigenen VPC, wenn Ihre Daten das Netzwerk nicht verlassen dürfen. Der Vor-Ort-Weg kommt mit eigenen SLAs für Durchsatz und Latenz sowie dediziertem Support.