Ultra AI

Toutes les requêtes passent par https://api.ultraai.app/v1, donc les SDK officiels d'OpenAI fonctionnent sans modification. Fournisseur et modèle se nomment dans la requête, pas dans le code. Cet endpoint unique explique pourquoi changer de fournisseur prend quelques minutes et non un sprint.

Les prompts vivent dans le tableau de bord, pas éparpillés dans les fichiers du dépôt. Vous les éditez, les versionnez et les appelez par clé, si bien que les changements de texte ne se mélangent plus aux déploiements. Les équipes qui réécrivent leurs consignes chaque jour en profitent le plus.

Deux modes couvrent presque tous les cas : cache exact pour les requêtes identiques, cache par similarité pour les prompts qui disent la même chose autrement. Le seuil de similarité et la durée de validité se règlent à chaque appel. L'entreprise annonce jusqu'à 10 fois moins de coûts d'API, un chiffre qui dépend du taux de répétition de votre trafic.

Chaque appel atterrit dans un journal avec latence, tokens, coût et route empruntée. Les vues agrégées montrent la dépense par modèle et le taux d'erreur dans le temps. C'est la part d'observabilité IA que la plupart des passerelles maison oublient, et souvent la raison pour laquelle les équipes gardent l'outil.

Vous listez plusieurs modèles par ordre de priorité et la passerelle tente le suivant quand un appel échoue. La bascule couvre les quotas du fournisseur, les délais dépassés et les erreurs de service. Vos utilisateurs reçoivent une réponse plus lente au lieu d'une page d'erreur.

Les plafonds se rattachent à l'identifiant utilisateur envoyé à chaque requête, avec un nombre d'appels et une fenêtre de temps. Vous resserrez un compte précis sans toucher aux réglages globaux. Sur un produit freemium, cela sépare une mauvaise journée d'une facture surprise.