Twigg
Twigg · Productivité · Autres
Twigg est une API de LLM à état qui stocke, ajuste et achemine le contexte de conversation à votre place. Vous créez un chat une fois, vous envoyez seulement l'événement suivant et vous nommez le modèle auquel il doit aller. Elle conserve le fil, le rogne à la fenêtre de contexte de chaque modèle, le traduit pour Anthropic, OpenAI, Google, xAI, Fireworks ou OpenRouter, renvoie la réponse en streaming et indique ce qu'a coûté chaque requête. Gérer le contexte est la partie fastidieuse du développement sur les LLM. Pourquoi la reconstruire pour chaque fournisseur ?
À propos de Twigg
Qu'est-ce que Twigg
Twigg est une API hébergée de gestion du contexte : un stockage, un assembleur et un routeur de modèles destiné aux développeurs qui construisent des applications sur de grands modèles de langage. Au lieu de concevoir votre propre table de messages, d'écrire le code qui décide quoi supprimer quand une transcription dépasse la fenêtre et de maintenir une couche de traduction pour chaque fournisseur, vous envoyez le tour suivant et laissez Twigg gérer la mécanique. Elle se place entre votre application et les fournisseurs de modèles, et reste à l'écart des parties qui vous appartiennent encore : la boucle de l'agent et les outils eux-mêmes.
La promesse centrale est la portabilité. Avec la plupart des API de fournisseurs, la conversation vit à l'intérieur de ce qui l'a générée, si bien que le fil stocké est aussi la raison pour laquelle vous ne pouvez pas partir. Twigg conserve la conversation à côté des modèles. Le modèle est un choix par requête, non une propriété du chat, si bien qu'un fil commencé sur un modèle peut se poursuivre avec un autre en changeant un seul champ. Rien dans l'enregistrement n'est écrit dans le dialecte d'un seul fournisseur.
Le périmètre est précis, et cela compte. Twigg gère les tours de conversation avec outils sur tous les modèles de son catalogue. Il ne fait ni embeddings, ni génération d'images, ni tâches par lots, ni affinage, et il n'exécute jamais un outil à votre place. Si votre projet a besoin de ces fonctions, elles se trouvent ailleurs.
Pour commencer
- Créez une clé d'API dans la console sur twigg.ai/dashboard/api-keys. Les clés ressemblent à
tw_live_…. - Créez un chat avec
POST /api/v1/chats, en choisissant un chemin d'espace de noms commeacme/proj-7. Conservez l'id de chat renvoyé. - Soumettez un tour à
POST /api/v1/chats/{chat_id}/responsesavec le nom du modèle et seulement la nouvelle entrée, comme un prompt ou le résultat d'un outil. - Lisez le flux d'événements envoyés par le serveur pour la réponse, qui se termine par un événement
donecontenant l'usage et le coût. - Là où le modèle a demandé un outil, exécutez-le dans votre propre code et soumettez le résultat au même endpoint.
Informations sur le produit
Aperçu des tarifs, des plateformes compatibles et des performances de Twigg.
Idéal pour
Les utilisateurs, tâches et cas d'usage où cet outil convient le mieux.
Utilisateurs
- Ingénieurs backend et IA
- Équipes produit avec des fonctions multimodèles
- Startups qui évitent la dépendance à un fournisseur
Tâches
- Construire un assistant multitour
- Auditer le coût par requête
- Flux avec appel d'outils
- Changer de modèle en cours de conversation
Cas d'usage
- Un bot de support qui passe d'un modèle rapide et bon marché à un plus puissant sur les tickets difficiles.
- Prototyper un agent sans concevoir un schéma de base de données pour les messages et les résultats d'outils.
- Comparer des fournisseurs sur la même transcription pour voir lequel donne de meilleures réponses pour votre cas d'usage.
Fonctionnalités clés
Stockage de conversation à état
Twigg conserve la conversation pour vous sous forme de stockage de contexte géré, si bien que vous ne rejouez jamais toute la transcription. Vous créez un chat une fois, puis vous n'envoyez que ce qui vient de se produire, comme un prompt ou le résultat d'un outil. Le fil stocké devient l'unique enregistrement que votre application lit et écrit.
Couche de traduction des fournisseurs
Le même chat peut être servi par des modèles Anthropic, OpenAI, Google, xAI, Fireworks ou OpenRouter. Twigg traduit le contexte stocké vers le schéma attendu par le fournisseur choisi, si bien que vous ne maintenez pas de format par fournisseur. Inutile d'envoyer la chaîne propre au modèle ; vous nommez à la place une entrée du catalogue.
Routage de modèles par requête
Le modèle est un choix par requête, non une propriété du chat. Vous pouvez changer de modèle en cours de conversation en modifiant un seul champ. Commencez sur un modèle, poursuivez sur un autre. Cela fait du routage par coût ou par qualité un changement d'une ligne plutôt qu'une migration.
Budgets de contexte et compaction
Chaque espace de noms porte ses propres règles, dont des budgets de contexte et une politique de rétention. Quand une transcription dépasse la fenêtre d'un modèle, Twigg la compacte et vous signale où cela s'est produit. Les exécutions de compaction sont facturées sur leur propre ligne, aux mêmes tarifs.
Rapport de coût au niveau de l'exécution
Chaque interaction est une exécution qui enregistre quel contexte a été assemblé, quel modèle l'a servie et ce qu'elle a coûté. L'événement done renvoie l'usage et le coût, et l'id d'exécution est ce que vous utilisez pour auditer les requêtes. Les prix sont indiqués par million de tokens et incluent la marge de la plateforme.
Espaces de noms pour l'organisation
Un espace de noms est un chemin que vous choisissez, comme acme/proj-7, défini à la création du chat et immuable ensuite. Il regroupe les chats pour le listage et c'est la clé de périmètre qui décide quelles instructions, quels outils, quelle politique de rétention et quel budget de contexte s'appliquent. La configuration publiée plus haut dans le chemin s'applique en dessous.
Streaming conscient des outils
Les réponses arrivent toujours sous forme d'événements envoyés par le serveur. Au-delà des deltas de texte, le flux signale les appels d'outils, les avertissements de configuration et de traduction, et le travail de compaction en cours. Twigg vous dit qu'un outil a été appelé ; il n'en exécute jamais un pour vous.
Avantages et inconvénients
Avantages
- Les conversations vivent en dehors de tout fournisseur unique, si bien que changer de modèle ne laisse pas votre historique en rade.
- Vous n'envoyez que l'événement le plus récent, pas toute la transcription, ce qui réduit le code et la charge utile que vous gérez.
- Une seule clé d'API atteint les modèles Anthropic, OpenAI, Google, xAI, Fireworks et OpenRouter.
- Chaque exécution indique le modèle servi et le coût, ce qui aide à la facturation et au budget.
- Aucun SDK requis : n'importe quel client HTTP capable de lire des événements envoyés par le serveur suffit.
Inconvénients
- Pas de mode sans streaming, donc chaque intégration doit gérer les événements envoyés par le serveur, ce qui demande plus de travail qu'un simple appel JSON.
- Il n'exécute jamais d'outils, ce qui signifie que vous construisez et faites tourner vous-même la couche d'outils.
- Le périmètre s'arrête aux tours de conversation avec outils ; ni embeddings, ni génération d'images, ni lots, ni affinage, donc les charges mixtes nécessitent d'autres services.
- Les espaces de noms sont immuables une fois un chat créé, donc se réorganiser plus tard implique de démarrer de nouveaux chats.
Questions fréquentes
Il stocke, assemble et achemine le contexte de conversation de LLM derrière une seule API. Vous créez un chat, envoyez l'événement suivant avec un nom de modèle, et il ajuste le contexte à ce modèle et renvoie la réponse en streaming.
Contenus associés
Découvrez des outils, des compétences et des articles liés à Twigg.
Alternatives à Twigg
Base Code
Base44 (Wix) · Programmation · ProductivitéBase Code est un environnement de développement cloud partagé signé Base44. Votre équipe décrit des modifications sur un dépôt GitHub dans le chat, les vérifie en aperçu et les renvoie sous forme de pull requests.
Knocket
Knocket (Tencent RTC team) · Productivité · Entreprise · ChatbotKnocket est un outil gratuit de chat en direct et de page de contact : vos visiteurs écrivent depuis votre site, votre application ou un lien, et vous répondez depuis Telegram ou une seule boîte de réception.
FloorGen
Vinit Kumar (FloorGen) · Productivité · IA chinoiseFloorGen est un créateur de plans dans le navigateur qui transforme une phrase ou un croquis en plan 2D modifiable et en visite 3D. Export en PDF, DXF ou vidéo, sans compte pour dessiner.