RightNow AI

L'assistant est réglé sur le GPU qu'il a sous les yeux, donc ses suggestions reflètent les limites de cette architecture et non des conseils génériques. Il lit ensemble le code et les résultats de profilage, puis propose des modifications de kernel que vous pouvez appliquer et remesurer. Cette combinaison fait la différence entre une réponse de code qui sonne bien et une qui accélère vraiment.

Les métriques du kernel apparaissent dans l'éditeur pendant la saisie, pas après un profilage séparé. CodeLens place les chiffres de performance à côté de la fonction qu'ils décrivent, donc une modification lente est repérée pendant que vous l'écrivez encore. Le profilage devient une activité qui accompagne le travail normal plutôt qu'une étape occasionnelle.

L'émulateur teste les kernels sur plus de 86 architectures NVIDIA, dont A100, H100 et H200, avec une erreur inférieure à 2%, ce qui permet de vérifier du matériel que vous ne possédez pas. Comme il émule au lieu d'estimer, les chiffres restent proches de ce que reporte le silicium réel. D'après RightNow AI, c'est ce qui abaisse la barrière pour les étudiants et les petites équipes sans budget matériel.

Plutôt que de renvoyer un mur de compteurs, le terminal de profilage explique en langage simple ce qui ne va pas et comment corriger. Il construit aussi pour vous la commande Nsight Compute sous-jacente, si bien que vous pouvez inspecter ou relancer la même mesure à la main. Le profilage reste adossé aux données Nsight, et leur lecture devient plus simple.

L'outil fait du benchmark de kernels : il parcourt seul les tailles de bloc, le nombre de threads et les dispositions mémoire, puis signale la configuration la plus rapide. Vous pouvez aussi suivre les régressions dans le temps, donc un commit lent se voit comme un chiffre et non comme une intuition vague. Il supprime la boucle manuelle qui consiste à modifier une constante, exécuter et noter le résultat.

Une vue à la manière de Godbolt montre l'assembleur en lequel chaque kernel est compilé, avec les instructions PTX et SASS rattachées aux lignes de code. Survolez une ligne et vous voyez ce que le GPU exécute réellement, ce qui tranche les débats sur l'effet d'une modification sur le matériel. L'inspection bas niveau reste dans l'éditeur, pas dans un outil à part.

La virtualisation GPU distante permet à quelqu'un sur Mac ou portable léger d'exécuter du code sur des H100 dans le cloud sans rien configurer. Le support de LLM local via Ollama, vLLM ou LM Studio garde le code propriétaire hors des services hébergés, donc confidentialité et puissance distante cessent d'être un compromis.