RightNow AI
RightNow · コーディング
RightNow AIは、CUDAとその関連カーネル言語向けに作られたGPUコードエディタ。カーネルをリアルタイムでプロファイリングし、手元にないNVIDIAハードウェアをエミュレートし、入力中に修正を提案する。
RightNow AI について
What Is RightNow AI
RightNow AIは、GPUカーネルを書き、チューニングする人のためのコードエディタだ。デスクトップ上で動き、いつも使う部品を一か所にまとめる。ターミナル、プロファイラ、そして自分がどのGPUの話をしているかを把握するAIアシスタントである。一般的なエディタがCUDAをただの言語として扱うのに対し、こちらはCUDA向けコードエディタとして、入力しながらカーネルの指標を読み取り、コードの脇に表示する。
狙うのはツールが散らばる問題だ。CUDAの作業はエディタ、Nsight Compute、ベンチマークスクリプト、別立てのアセンブリビューアを行き来しがちになる。RightNow AIはそれらを一つのウィンドウに収める。ボトルネックは、それを引き起こした行の隣に出る。三つのツールの先ではない。CUDA、Triton、PyTorch、CUTEテンプレート、TileLangを同じ環境で扱える。
制約は実際的だ。NVIDIAハードウェアを狙った作りなので、AMDやIntelのGPUを扱う用途には向かない。最も深い機能はProプランの後ろに置かれている。それでも無料プランは本物で役に立つ。カーネルを一人で試す開発者には特にそうで、支払う前に試せる。
Getting Started
- RightNow AIのサイトからWindows、macOS、Linux用のデスクトップアプリをダウンロードする。無料プランはカード登録も初期費用も要らない。
- CUDA、Triton、PyTorchのファイルを開き、エディタにプロジェクトを走査させる。最初の数行が描画されるそばから、カーネル指標がCodeLensに現れる。
- プロファイリングターミナルでベンチマークを回すか、GPUエミュレータで手元にないアーキテクチャを試す。
- AIアシスタントに遅いカーネルの説明や修正案を求め、変種を適用してまた測る。
- カーネルの性能を比べ、最速の版を残し、数字の推移を追う。
AIツール情報
RightNow AIの料金、対応プラットフォーム、性能を簡単に確認できます。
こんな人におすすめ
このツールが最も力を発揮するユーザー、タスク、シーン。
ユーザー
- カーネルのチューニングを仕事にするCUDA開発者
- GPUプログラミングを学ぶ情報系の学生
- 性能研究者と機械学習エンジニア
タスク
- 遅いカーネルをプロファイリングする
- 最速の設定を選ぶ
- GPUが実際に実行するものを見る
- PyTorchモデルを速くする
シーン
- 手元にNVIDIAカードがないノートPCの開発者
- コードを社内に留めたいチーム
- バージョン間で性能が後退するプロジェクト
主な機能
ハードウェアを理解するAIアシスタント
アシスタントは目の前のGPUに合わせて調整される。提案はそのアーキテクチャの制約を映し、一般論ではない。コードとプロファイリング結果をまとめて読み、適用して測り直せるカーネルの変更を出す。この組み合わせが、それらしいコードの答えと、実際に速くなる答えを分ける。
リアルタイムのカーネル指標
カーネル指標は入力中にエディタへ出る。別のプロファイリングを待たない。CodeLensが性能の数字を、それが説明する関数のそばに置く。遅くなる変更は、まだ編集しているうちに見つかる。プロファイリングは時々の手順ではなく、日常の作業と並んで走るものになる。
GPUエミュレータ
エミュレータは86以上のNVIDIAアーキテクチャでCUDAカーネルを試す。A100、H100、H200を含み、誤差は2%未満。持っていないハードウェアを確認できる。推定ではなくエミュレートするので、数字は実シリコンの報告に近いまま残る。RightNow AIによれば、これがハードウェア予算のない学生や小規模チームの敷居を下げる。
スマートプロファイリングターミナル
カウンタの壁を返す代わりに、プロファイリングターミナルは何が悪く、どう直すかを平易な言葉で説明する。土台のNsight Computeコマンドも組み立ててくれるので、同じ測定を手元で確認しても再実行してもよい。プロファイリングはNsightのデータに支えられたまま、その読み取りが楽になる。
自動ベンチマーク
このツールはカーネルベンチマークを行う。ブロックサイズ、スレッド数、メモリ配置を自分で走らせ、最速の設定を報告する。後退を時間軸で追うこともできるので、遅いコミットは漠然とした勘ではなく数字として現れる。定数を変えて実行し結果を控える手作業のループが消える。
PTXとSASSのビューア
Godbolt風の画面が、各カーネルがコンパイルされるアセンブリを表示する。PTXとSASSの命令がソース行に結び付く。行にカーソルを合わせればGPUが実際に実行するものが見え、変更がハードウェアに届いたかをめぐる議論が片付く。低水準の確認はエディタの中に留まり、別のツールに移らない。
リモートGPU仮想化とローカルモデル
リモートGPU仮想化があれば、Macや軽いノートPCでも設定なしでクラウドのH100でコードを実行できる。Ollama、vLLM、LM StudioによるローカルLLM対応が、専有コードを外部サービスから遠ざける。機密性とリモートの性能は二択ではなくなる。
メリットとデメリット
メリット
- 編集、プロファイリング、計測、アセンブリ確認が一つの環境に収まり、CUDAの作業が四つのツールを行き来しなくなる。
- GPUエミュレータは86以上のNVIDIAアーキテクチャを覆う。ハードウェアを買わずに持っていないカードを狙える。
- エディタ内のリアルタイム指標が、遅くなる変更を書いている最中に捕まえる。別のプロファイリングの後ではない。
- ローカルLLM対応が専有コードをマシン上に留める。外部サービスへ送れないチームに向く。
- 無料プランに単一GPUの無制限プロファイリングとベンチマークが含まれ、コストが評価の邪魔をしない。
デメリット
- マルチGPU向けのGPUエミュレータや無制限AIなど最も深い機能は、月29ドルのProプランの後ろにある。
- NVIDIAハードウェアを狙うため、AMD、Intel、その他のアクセラレータを使うチームにはほとんど利点がない。
- 計測とエミュレーションには時間がかかる。即時の反応に慣れた人には反復が遅くなる。
- エディタは比較的新しい製品で、流通するのはバージョン0.2.0。機能が成熟するまで粗さは残る。
よくある質問
RightNow AIはGPUカーネルの記述、プロファイリング、調整に使う。中心はCUDAで、Triton、PyTorch、CUTE、TileLangも扱う。プロファイラ、ベンチマークツール、GPUエミュレータ、AIアシスタントを一つのエディタにまとめ、性能のボトルネックを素早く見つけて直せる。
関連コンテンツ
RightNow AIに関連するツール、スキル、記事を探す。
RightNow AIの代替ツール
Forefront
Forefront · コーディングForefrontはオープンソースAIで構築するためのウェブプラットフォームだ。主要なオープンソース言語モデルを自分のデータで微調整し、性能を評価し、API経由で実行したり、エクスポートして自分でホストしたりできる。クローズドなプラットフォームの手軽さを求めつつ、モデルとデータの所有権にはこだわる開発者が対象だ。
Startkit
StartKit.AI · コーディングStartkitは、AI SaaSとAIラッパー製品を作るためのボイラープレートだ。面倒な部分をあらかじめ配線済みにしたAIスタートアップボイラープレートと考えればいい。認証、StripeとLemon Squeezyの決済、利用制限、トランザクションメール、そしてOpenAI、Anthropic、Groq、Llamaと通信するAI APIスターターキットが含まれる。リポジトリをクローンして価格を設定し、ユーザーが実際にお金を払う部分に取りかかれる。ReactとTailwind上のNext.jsで作られているため、ボイラープレートコードの多くはすでに見慣れたものだ。
Testim
Tricentis · コーディングTestimは、Web・モバイル・Salesforceアプリ向けにエンドツーエンドテストを構築して実行するAIテスト自動化プラットフォームだ。機械学習を頼りに、インターフェースが変わってもテストを安定させ、チームが壊れたセレクターの修正に費やす時間を減らす。今日から使い始められる自動テストツールとしては悪くない。ブラウザで操作を録画してテストを作り、より細かい制御が必要なときはJavaScriptを足す。忙しいQAチームにとって堅実な選択肢である。