nCompass Technologies

L'agent reçoit un fichier de profilage et le code qui l'entoure, puis renvoie une courte liste de goulots d'étranglement avec le raisonnement. Il travaille sur deux plans : les questions système sur l'ordonnancement et les transferts de données, et les questions de noyau sur l'occupation, les accès mémoire et le mélange d'instructions. Vous pouvez contester sa réponse et lui demander de vérifier une autre hypothèse, ce qui ressemble davantage à un échange avec un collègue qu'à la lecture d'un rapport.

Les sorties de Nsight Systems et du profileur PyTorch s'ouvrent dans la même fenêtre, sans sortir la trace de la machine sur laquelle vous travaillez. Chronologie, liste des noyaux et panneau de code cohabitent, et passer d'un noyau lent à la ligne qui l'a lancé demande un clic. Pour qui a déjà passé une après-midi à faire défiler une visionneuse web, la différence tient surtout au fait de ne pas perdre le fil.

TraceDiff place deux exécutions côte à côte et signale ce qui a changé : les noyaux apparus, ceux qui ont ralenti et les trous qui se sont creusés. C'est la fonction qui répond à la question la plus fréquente après un déploiement, et elle y répond avec des données plutôt qu'avec une intuition.

Les traces s'envoient dans le cloud avec la commande npx ncompass, se listent, se récupèrent et se partagent par un lien. Votre collègue ouvre la même vue, au même niveau de zoom, avec les mêmes annotations. Cela paraît anecdotique jusqu'au jour où il faut déboguer un problème de performance dans un fil de discussion.

Dans un système d'IA lent, le temps part surtout dans les noyaux, et c'est là que les assistants généralistes décrochent. L'agent lit des données de compteurs de type ncu, détecte les motifs de noyau répétés et propose des changements précis : découpage en tuiles, chargements vectorisés ou configuration de lancement différente. L'entreprise raconte que son équipe s'est servie de l'outil pour écrire un noyau GEMM pour Hopper, environ 3 % plus rapide que CUTLASS de NVIDIA, en une journée, un travail qui prenait des mois auparavant.

L'agent se branche sur les éditeurs que les équipes utilisent déjà, si bien que le raisonnement et la modification du code se font au même endroit. Vous demandez l'analyse dans Cursor, vous obtenez le diagnostic et le correctif est déjà rédigé, sans changer d'outil. Pour les équipes qui ont standardisé le développement assisté par IA, l'écart entre le rapport de profilage et le commit disparaît.