SemanticGuard

Le cache fait correspondre le sens, pas seulement les mots, si bien qu'une question reformulée peut tout de même trouver une correspondance. Ce qui le distingue, c'est la couche de validation : les correspondances passent par une vérification multicouche et un échantillonnage continu jugé par IA, donc l'exactitude est traitée comme une chose à prouver, non à présumer. L'éditeur revendique 100 % d'exactitude du cache sur son benchmark public, et la mise en cache entre fournisseurs signifie que la réponse d'un modèle peut servir une paraphrase destinée à un autre.

Chaque appel d'outil que votre LLM émet atterrit dans un flux d'activité avec le nom de l'outil, les arguments, le modèle et l'attribution complète de la session. Un classifieur déterministe note chaque appel comme lecture, écriture ou destructeur. Si vous passez déjà par SemanticGuard, cela fonctionne sans aucun changement de code.

Vous définissez ce qui tourne et ce qui ne tourne pas, par motif, niveau de risque, espace de travail ou utilisateur. Des valeurs par défaut sensées sont livrées dès le premier jour : refuser les appels destructeurs en prod, exiger une approbation pour les déploiements, bloquer les PR vers la main. Les modifications de règles apparaissent dans la piste d'audit en quelques secondes.

Ajoutez un wrapper fetch à n'importe quel fournisseur avec le Vercel AI SDK. Il fonctionne avec OpenAI, Anthropic, Vertex AI et tout ce qui accepte une fonction fetch personnalisée. Pour Claude Code et les autres clients du SDK Anthropic, définir une variable d'environnement fait passer le trafic par la passerelle avec suivi des coûts, audit et masquage des données personnelles inclus.

Avant de faire confiance au cache, le mode Ombre journalise tout et indique ce que vous auriez économisé, sans servir une seule réponse en cache. C'est la façon honnête de vérifier si votre trafic se répète assez pour justifier le changement. Le palier gratuit est bâti autour de cela, sans carte bancaire.

L'installation depuis le Vercel Marketplace déploie le proxy dans votre propre compte Vercel, adossé à votre Neon Postgres, Upstash Redis et Upstash Vector. Les prompts, les réponses, les embeddings et le contenu du cache ne quittent jamais votre tenant ; seuls la licence, la validation de la clé d'API et un signal de santé atteignent le plan de contrôle de SemanticGuard.

Le tableau de bord couvre l'analyse des coûts et la traçabilité par requête, avec un endpoint Prometheus pour les équipes qui envoient leurs métriques vers leur propre stack. Chaque tenant dispose de son propre interrupteur d'arrêt et de son journal d'audit.