Julep AI

Julep-Agenten speichern, was sie über einen Nutzer lernen, und holen es in spätere Gespräche zurück. Die Plattform hält das in einem eigenen Gedächtnisspeicher, statt alles in den Prompt zu stopfen. Das zählt, sobald ein Gespräch lang wird. Bei einem Support-Bot merkt es sich das letzte Problem, ohne dass man es zweimal sagt.

Sie beschreiben einen Workflow als Reihe von Schritten, und Julep übernimmt darin die Entscheidungen, Schleifen und parallelen Zweige. Aufgaben können nur zwei Schritte umfassen oder sich wie eine Datenpipeline erstrecken. Dieser Teil trennt es von einer gewöhnlichen Prompt-Kette. Die meisten Tools enden bei einem Prompt. Dieses nicht.

Eine Sitzung hält den Gesprächsverlauf und den Kontext eines Agenten-Nutzer-Paares, und sie lässt sich jederzeit pausieren und fortsetzen, sodass eine lange Pause zwischen Nachrichten nicht alles verwirft, was der Agent schon weiß. Kommt ein Nutzer eine Woche später zurück, macht der Agent dort weiter, wo er aufgehört hat, statt kalt zu starten.

Julep bringt eine Reihe von Tools mit und lässt Sie externe APIs anschließen, sodass ein Agent etwas nachschlagen, darauf reagieren und in derselben Aufgabe weitermachen kann, ohne dass Sie die Verbindung für jeden Dienst von Hand bauen. Das spart echte Arbeit. Sonst würden Sie für jeden Dienst, den Sie berühren, einen neuen Handler schreiben.

Fehlgeschlagene Schritte wiederholen sich von selbst, und lang laufende Aufgaben überstehen einen Absturz, ohne ihre Stelle zu verlieren. Julep stützt sich dafür im Hintergrund auf eine Workflow-Engine. Zuverlässigkeit ist hier alles. Bei Agenten, die stundenlang laufen, trennt sie eine Demo von etwas, dem Sie in der Produktion vertrauen würden. Ohne sie wird jede lange Aufgabe zur Aufpasser-Arbeit.

Die Plattform enthält einen Dokumentspeicher für RAG, die Technik, mit der ein Agent aus Ihrem eigenen Material antwortet, statt zu raten. Sie laden Ihre Dokumente, und der Agent zieht beim Antworten die relevanten Stellen heraus, sodass Teams, die Wissensassistenten bauen, das bekommen, ohne eine separate Vektordatenbank anzubauen.

Die gesamte Plattform ist Open Source, sodass Sie sie auf Ihren eigenen Servern betreiben können, statt Ihre Daten einem Anbieter anzuvertrauen. Das spricht Teams mit strengen Datenregeln an oder solche, die Abhängigkeit vermeiden wollen, denn nichts an Ihren Agenten verlässt Ihr Netzwerk. Der Haken? Die Einrichtung liegt bei Ihnen. Die Wartung kann für ein kleines Team ohne eigene Ops-Hilfe schnell zusammenlaufen.