RightNow AI

Der Assistent ist auf die GPU vor ihm abgestimmt, sodass seine Vorschläge die Grenzen dieser Architektur widerspiegeln und nicht allgemeine Ratschläge sind. Er liest Code und Profiling-Ergebnisse zusammen und schlägt Kernel-Änderungen vor, die Sie anwenden und neu messen können. Diese Kombination unterscheidet eine flüssige Code-Antwort von einer, die wirklich schneller läuft.

Kernel-Metriken erscheinen im Editor beim Tippen, nicht erst nach einem separaten Profiling-Lauf. CodeLens stellt die Leistungszahlen neben die Funktion, die sie beschreiben, sodass eine langsame Änderung auffällt, während Sie noch daran arbeiten. Damit wird Profiling zu etwas, das neben der normalen Arbeit läuft, statt ein gelegentlicher Schritt zu sein.

Der Emulator testet Kernel auf über 86 NVIDIA-Architekturen, darunter A100, H100 und H200, mit einem Fehler unter 2%, sodass man Hardware prüfen kann, die man nicht besitzt. Weil er emuliert statt schätzt, bleiben die Zahlen nah an dem, was echter Silizium meldet. Laut RightNow AI senkt genau das die Hürde für Studierende und kleine Teams ohne Hardware-Budget.

Statt eine Wand von Zählern zurückzugeben, erklärt das Profiling-Terminal in klarer Sprache, was falsch läuft und wie man es behebt. Es baut zudem den zugrunde liegenden Nsight-Compute-Befehl für Sie, sodass Sie dieselbe Messung von Hand prüfen oder wiederholen können. Das Profiling bleibt auf Nsight-Daten gestützt, während das Lesen einfacher wird.

Das Werkzeug betreibt Kernel-Benchmarking: es fährt selbstständig Blockgrößen, Threadzahlen und Speicherlayouts durch und meldet die schnellste Konfiguration. Sie können Rückschritte auch über die Zeit verfolgen, sodass ein langsamer Commit als Zahl erscheint und nicht als vages Gefühl. Die manuelle Schleife aus Konstante ändern, ausführen und Ergebnis notieren entfällt.

Eine Ansicht im Godbolt-Stil zeigt den Assembler, zu dem jeder Kernel kompiliert, mit PTX- und SASS-Befehlen an den Codezeilen. Fährt man über eine Zeile, sieht man, was die GPU tatsächlich ausführt, was Debatten darüber beendet, ob eine Änderung die Hardware erreicht hat. Die Low-Level-Prüfung bleibt im Editor und nicht in einem getrennten Werkzeug.

Die Remote-GPU-Virtualisierung lässt jemanden auf einem Mac oder leichten Laptop Code auf Cloud-H100 ausführen, ohne etwas einzurichten. Die Unterstützung lokaler LLMs über Ollama, vLLM oder LM Studio hält proprietären Code von gehosteten Diensten fern, sodass Vertraulichkeit und entfernte Leistung kein Kompromiss mehr sind.