nCompass Technologies

nCompass Technologies 是什麼

nCompass Technologies 是一家 Y Combinator 支持的創業公司，產品是一套給「要讓 AI 系統跑得快」的人用的效能分析工具。目前的主力產品把 AI 代理與輕量的 VS Code、Cursor 擴充套件綁在一起：你打開一份追蹤檔，問一句為什麼某個服務工作卡住，回覆會直接指向某個核心、某次記憶體複製，或排程上的空檔。

公司 2024 年以推論平台起家，賣的是沒有速率限制的 API。這門生意把團隊推向客戶反覆抱怨的同一件事：服務堆疊在紙上看起來沒問題，上線後卻很慢，而且沒有人說得出時間花在哪裡。為了回答這個問題而做的工具，最後變成現在賣的產品，客群是跑生成式推薦、排序與大規模 LLM 服務的平台團隊。

前提講起來簡單，做起來很難。找出效能問題的成因，比寫出修正那段程式碼要多花四到八倍的時間。工程師把好幾 GB 的追蹤檔複製到筆電，在一整面計數器裡往下捲，然後猜。nCompass 把這個循環收進一個編輯器視窗和一段對話裡。

限制和承諾一樣重要。這套工具給已經在用 NVIDIA 分析工具、而且能隨時重跑慢速工作負載的團隊使用。沒有追蹤檔，就沒有東西可分析。只有一個模型、也沒有延遲目標的小專案，能得到的幫助有限，而付費部分要跟業務談，網站上沒有結帳頁。

開始使用

1. 到 ncompass.tech 建立帳號，從 VS Code 市集安裝擴充套件，或加進 Cursor。
2. 用 Nsight Systems 或 PyTorch 分析工具對工作負載取樣，取得一份追蹤檔。
3. 在擴充套件裡開啟追蹤檔，或用 npx ncompass 指令上傳到雲端，讓同事也能打開。
4. 直接問代理一個具體問題，例如核心之間的空檔從哪裡來，然後讀它按影響排序的嫌疑清單。
5. 用 TraceDiff 把新的執行結果和舊的並排比對，確認改動真的讓數字動了。