Twigg
Twigg · Produktivität · Sonstiges
Twigg ist eine zustandsbehaftete LLM-API, die den Gesprächskontext für Sie speichert, anpasst und weiterleitet. Sie legen einen Chat einmal an, senden nur das nächste Ereignis und nennen das Modell, an das es gehen soll. Die API bewahrt den Thread, kürzt ihn auf das Kontextfenster des jeweiligen Modells, übersetzt ihn für Anthropic, OpenAI, Google, xAI, Fireworks oder OpenRouter, streamt die Antwort zurück und meldet, was jede Anfrage gekostet hat. Kontextverwaltung ist der lästige Teil beim Bauen auf LLMs. Warum sollte man sie für jeden Anbieter neu bauen?
Über Twigg
Was ist Twigg
Twigg ist eine gehostete API für Kontextverwaltung: ein Speicher, Assembler und Modell-Router für Entwickler, die Anwendungen auf großen Sprachmodellen bauen. Statt eine eigene Nachrichtentabelle zu entwerfen, den Code zu schreiben, der entscheidet, was wegfällt, wenn eine Transkription das Fenster sprengt, und für jeden Anbieter eine Übersetzungsschicht zu pflegen, senden Sie die nächste Runde und überlassen die Mechanik Twigg. Die API sitzt zwischen Ihrer Anwendung und den Modellanbietern und hält sich aus den Teilen heraus, die weiterhin Ihnen gehören: die Agent-Schleife und die Tools selbst.
Das Kernversprechen ist Portabilität. Bei den meisten Anbieter-APIs lebt das Gespräch in dem, was es erzeugt hat, sodass der gespeicherte Thread auch der Grund ist, warum Sie nicht wegkommen. Twigg speichert das Gespräch neben den Modellen. Das Modell ist eine Wahl pro Anfrage, keine Eigenschaft des Chats, sodass ein Thread, der auf einem Modell begonnen hat, mit einem anderen fortgesetzt werden kann, indem Sie ein einziges Feld ändern. Nichts im Datensatz ist im Dialekt eines einzelnen Anbieters geschrieben.
Der Umfang ist eng umrissen, und das ist wichtig. Twigg bearbeitet Gesprächsrunden mit Tools über alle Modelle seines Katalogs. Es macht keine Embeddings, keine Bildgenerierung, keine Batch-Jobs und kein Fine-Tuning, und es führt nie ein Tool für Sie aus. Wenn Ihr Projekt diese Dinge braucht, leben sie anderswo.
Erste Schritte
- Legen Sie einen API-Schlüssel in der Konsole unter twigg.ai/dashboard/api-keys an. Schlüssel sehen so aus:
tw_live_…. - Erstellen Sie einen Chat mit
POST /api/v1/chatsund wählen Sie einen Namespace-Pfad wieacme/proj-7. Behalten Sie die zurückgegebene Chat-ID. - Senden Sie eine Runde an
POST /api/v1/chats/{chat_id}/responsesmit dem Modellnamen und nur der neuen Eingabe, etwa einem Prompt oder einem Tool-Ergebnis. - Lesen Sie den Server-Sent-Event-Stream für die Antwort, der mit einem
done-Ereignis endet, das Nutzung und Kosten trägt. - Wenn das Modell ein Tool angefordert hat, führen Sie es in Ihrem eigenen Code aus und senden Sie das Ergebnis an denselben Endpunkt.
Produktinformationen
Ein kurzer Überblick über Preise, unterstützte Plattformen und die Leistung von Twigg.
Am besten für
Die Nutzer, Aufgaben und Szenarien, für die dieses Tool am besten passt.
Nutzer
- Backend- und KI-Entwickler
- Produktteams mit multimodalen Funktionen
- Startups, die Anbieterbindung vermeiden
Aufgaben
- Einen mehrmündigen Assistenten bauen
- Kosten pro Anfrage prüfen
- Workflows mit Tool-Aufrufen
- Modelle mitten im Gespräch wechseln
Szenarien
- Ein Support-Bot, der bei schwierigen Tickets von einem schnellen, günstigen Modell auf ein stärkeres eskaliert.
- Einen Agenten prototypen, ohne ein Datenbankschema für Nachrichten und Tool-Ergebnisse zu entwerfen.
- Anbieter auf derselben Transkription vergleichen, um zu sehen, welcher für Ihren Anwendungsfall bessere Antworten liefert.
Wichtigste Funktionen
Zustandsbehaftete Gesprächsspeicherung
Twigg hält das Gespräch für Sie als verwalteter Kontextspeicher, sodass Sie nie die ganze Transkription erneut senden. Sie legen einen Chat einmal an und senden danach nur, was gerade passiert ist, etwa einen Prompt oder ein Tool-Ergebnis. Der gespeicherte Thread wird zum einzigen Datensatz, den Ihre App liest und schreibt.
Übersetzungsschicht für Anbieter
Derselbe Chat kann von Modellen von Anthropic, OpenAI, Google, xAI, Fireworks oder OpenRouter bedient werden. Twigg übersetzt den gespeicherten Kontext in das Schema, das der gewählte Anbieter erwartet, sodass Sie keine Formate pro Anbieter pflegen. Die modell-eigene Zeichenfolge zu senden ist nicht nötig; stattdessen nennen Sie einen Katalogeintrag.
Modell-Routing pro Anfrage
Das Modell ist eine Wahl pro Anfrage, keine Eigenschaft des Chats. Sie können mitten im Gespräch das Modell wechseln, indem Sie ein einziges Feld ändern. Auf einem Modell starten, auf einem anderen fortsetzen. So wird Routing nach Kosten oder Qualität eine einzeilige Änderung statt einer Migration.
Kontext-Budgets und Kompaktierung
Jeder Namespace trägt eigene Regeln, darunter Kontext-Budgets und Aufbewahrungsrichtlinie. Wenn eine Transkription das Fenster eines Modells sprengt, kompaktiert Twigg sie und warnt Sie, wo das passiert ist. Kompaktierungsläufe werden als eigene Position zu denselben Sätzen abgerechnet.
Kostenbericht pro Lauf
Jede Interaktion ist ein Lauf, der aufzeichnet, welcher Kontext zusammengestellt wurde, welches Modell ihn bedient hat und was er gekostet hat. Das done-Ereignis gibt Nutzung und Kosten zurück, und die Lauf-ID nutzen Sie, um Anfragen zu prüfen. Preise sind pro Million Tokens angegeben und enthalten die Plattformmarge.
Namespaces zur Organisation
Ein Namespace ist ein Pfad, den Sie wählen, wie acme/proj-7, bei der Chat-Erstellung festgelegt und danach unveränderlich. Er gruppiert Chats für die Auflistung und ist der Bereichsschlüssel, der entscheidet, welche Anweisungen, Tools, Aufbewahrungsrichtlinie und welches Kontext-Budget gelten. Konfiguration, die weiter oben im Pfad veröffentlicht ist, gilt darunter.
Streaming mit Tool-Bewusstsein
Antworten kommen immer als Server-Sent-Events. Jenseits von Text-Deltas meldet der Stream Tool-Aufrufe, Konfigurations- und Übersetzungswarnungen sowie laufende Kompaktierungsarbeit. Twigg sagt Ihnen, dass ein Tool aufgerufen wurde; es führt nie eines für Sie aus.
Vor- und Nachteile
Vorteile
- Gespräche leben außerhalb eines einzelnen Anbieters, sodass ein Modellwechsel Ihren Verlauf nicht stranden lässt.
- Sie senden nur das neueste Ereignis, nicht die ganze Transkription, was den Code und die Nutzlast reduziert, die Sie verwalten.
- Ein einziger API-Schlüssel erreicht Modelle von Anthropic, OpenAI, Google, xAI, Fireworks und OpenRouter.
- Jeder Lauf meldet das bedienende Modell und die Kosten, was Abrechnung und Budgetierung hilft.
- Kein SDK nötig: Jeder HTTP-Client, der Server-Sent-Events liest, genügt.
Nachteile
- Kein Modus ohne Streaming, sodass jede Integration Server-Sent-Events verarbeiten muss, was mehr Arbeit als ein einfacher JSON-Aufruf ist.
- Es führt nie Tools aus, das heißt, Sie bauen und betreiben die Tool-Schicht weiterhin selbst.
- Der Umfang endet bei Gesprächsrunden mit Tools; keine Embeddings, Bildgenerierung, Batches oder Fine-Tuning, sodass gemischte Lasten andere Dienste brauchen.
- Namespaces sind nach dem Anlegen eines Chats unveränderlich, sodass eine spätere Umorganisation neue Chats bedeutet.
Häufige Fragen
Es speichert, stellt zusammen und leitet LLM-Gesprächskontext hinter einer einzigen API. Sie legen einen Chat an, senden das nächste Ereignis mit einem Modellnamen, und es passt den Kontext an dieses Modell an und streamt die Antwort.
Ähnliche Inhalte
Entdecke passende Tools, Skills und Artikel zu Twigg.
Alternativen zu Twigg
Base Code
Base44 (Wix) · Coding · ProduktivitätBase Code ist eine geteilte Cloud-Entwicklungsumgebung von Base44. Das Team beschreibt Änderungen an einem bestehenden GitHub-Repository im Chat, prüft sie in der Vorschau und reicht sie als Pull Request ein.
Knocket
Knocket (Tencent RTC team) · Produktivität · Business · ChatbotKnocket ist ein kostenloses Werkzeug für Live-Chat und Kontaktseite: Besucher schreiben über Ihre Website, Ihre App oder einen Link, und Sie antworten aus Telegram oder einem einzigen Posteingang.
FloorGen
Vinit Kumar (FloorGen) · Produktivität · KI aus ChinaFloorGen ist ein Grundriss-Ersteller im Browser, der aus einem Satz oder einer Skizze einen bearbeitbaren 2D-Plan und einen 3D-Rundgang macht. Export als PDF, DXF oder Video, Zeichnen ohne Konto.