Helicone

L'installation se résume à une URL de base et à une clé d'API, donc un client OpenAI, Anthropic, Azure ou LiteLLM existant garde la forme de son code. Rien à installer sur le serveur, aucun agent à lancer, et c'est pourquoi les équipes voient des journaux l'après-midi même de leur inscription. La voie du proxy convient à tout langage capable d'envoyer une requête HTTP.

Chaque entrée conserve le prompt complet, la réponse du modèle, les tokens, la latence et le coût calculé. Vous filtrez par modèle, statut, plage horaire ou propriété personnalisée, puis vous ouvrez une requête pour voir où le temps est parti. La journalisation des prompts à ce niveau transforme une plainte vague en une ligne de texte précise, que vous pouvez corriger.

La passerelle IA est un point d'accès compatible OpenAI qui couvre plus de 100 modèles chez OpenAI, Anthropic, Google, Vertex, Groq et d'autres. Elle ajoute un cache de réponses, des limites de débit par clé et des replis automatiques quand un fournisseur tombe, et les crédits sont facturés au prix du fournisseur, sans marge. Vous pouvez aussi apporter vos propres clés si vous préférez séparer la facturation.

Les propriétés personnalisées permettent d'attacher à une requête un ID utilisateur, une offre, le nom d'une fonction ou toute autre étiquette. Les sessions regroupent ensuite une conversation de plusieurs tours dans une seule vue, et vous voyez le coût et la longueur d'un parcours réel. Pour une équipe support, c'est la différence entre « le bot est lent » et « ce compte déclenche un appel d'outil de 12 secondes à chaque fois ».

Le playground lance des prompts sur plusieurs modèles côte à côte et affiche les réglages de raisonnement pour les modèles qui les exposent. Les prompts se sauvegardent, se versionnent et se réutilisent depuis le code, et les sorties se notent, ce qui juge une modification sur ses résultats plutôt que sur une impression. C'est le moyen rapide de tester un modèle moins cher avant de lui envoyer du trafic réel.

Les alertes se déclenchent sur des seuils de coût, de taux d'erreur ou de latence, et les rapports programmés envoient un résumé par e-mail ou Slack. HQL, le langage de requête intégré, traite ce que les filtres du tableau de bord ne savent pas exprimer, comme le coût par utilisateur sur 30 jours. Les résultats s'exportent ou passent par l'API vers votre entrepôt.

Le code est public sous Apache 2.0, avec des milliers d'étoiles sur GitHub et un rythme de versions soutenu. Vous faites tourner toute la pile dans votre cloud avec Docker, ce qui compte quand les prompts contiennent des données clients que le juridique interdit d'exporter. La version hébergée et la version auto-hébergée partagent le même tableau de bord et la même API.