nCompass Technologies
nCompass Technologies Inc. · Escrita · Voz e linguagem · Outros
A nCompass Technologies vende um agente de IA e uma extensão de VS Code que leem traces de GPU, apontam gargalos entre CPU e GPU e propõem correções para pilhas de inferência.
Sobre nCompass Technologies
About
O que é a nCompass Technologies
A nCompass Technologies é uma startup apoiada pela Y Combinator por trás de uma ferramenta de análise de traces e criação de perfil feita para quem mantém sistemas de IA rodando rápido. O produto atual junta um agente de IA a uma extensão leve para VS Code e Cursor: você abre um trace, pergunta por que um job de serving travou e recebe uma resposta que aponta um kernel específico, uma cópia de memória ou uma brecha no escalonamento.
A empresa começou em 2024 como plataforma de inferência com API sem limite de requisições. Esse negócio empurrou o time para o problema que os clientes repetiam: a pilha de serving parecia boa no papel e lenta em produção, e ninguém sabia para onde ia o tempo. A ferramenta criada para responder essa pergunta virou o produto vendido hoje, voltado a times de plataforma que rodam recomendadores generativos, ranking e serviço de LLM em escala.
A premissa é fácil de dizer e difícil de cumprir. Achar a causa de um problema de desempenho leva de quatro a oito vezes mais tempo do que escrever o código que corrige. O engenheiro copia um trace de vários gigabytes para o notebook, rola uma parede de contadores e chuta. A nCompass espreme esse ciclo em uma janela do editor e uma conversa.
Os limites pesam tanto quanto a promessa. É uma ferramenta para times que já usam os profilers da NVIDIA e conseguem reproduzir uma carga lenta quando precisam. Sem trace, não há o que analisar. Projeto pequeno, com um modelo só e sem meta de latência, tira pouco proveito, e a parte paga se resolve em conversa com o time comercial, não em uma página de checkout.
Primeiros passos
- Crie uma conta em ncompass.tech e instale a extensão pela marketplace do VS Code, ou adicione no Cursor.
- Gere o perfil da sua carga com o Nsight Systems ou com o profiler do PyTorch para ter um arquivo de trace.
- Abra o trace na extensão ou envie para a nuvem com o comando npx ncompass, para o time abrir também.
- Faça uma pergunta direta ao agente sobre a execução, como de onde vêm as brechas entre kernels, e leia a lista de suspeitos por ordem de impacto.
- Compare a execução nova com a antiga no TraceDiff para confirmar que a mudança mexeu nos números de verdade.
Informações do produto
Uma visão rápida dos preços, das plataformas compatíveis e do desempenho de nCompass Technologies.
Ideal para
Os usuários, tarefas e cenários em que esta ferramenta se encaixa melhor.
Usuários
- Engenheiros de plataforma de ML
- Engenheiros de GPU e inferência
- Líderes técnicos que distribuem trabalho de desempenho
- Quem escreve CUDA
Tarefas
- Descobrir por que um job de serving fica ocioso
- Comparar duas execuções depois de mexer na configuração
- Revisar um trace com alguém do time
- Preparar a reescrita de um kernel
Cenários
- Uma regressão de latência aparece depois de atualizar o framework e o time tem uma semana para achar
- Uma pilha de recomendador generativo não tem comunidade pública de ajuste
- Hora de decidir se a frota de GPU precisa de mais placas ou de código melhor
Principais recursos
Agente de IA que lê seus traces
O agente recebe um arquivo de perfil e o código em volta dele e devolve uma lista curta de gargalos com o raciocínio junto. Atua em dois níveis: perguntas de sistema sobre escalonamento e tráfego de dados, e perguntas de kernel sobre ocupação, acesso à memória e mistura de instruções. Dá para discordar da resposta e pedir que ele cheque outra hipótese, o que se aproxima de conversar com um colega em vez de rodar um relatório.
Visualizador de traces dentro do editor
A saída do Nsight Systems e a do profiler do PyTorch abrem na mesma janela, sem tirar o trace da máquina onde você trabalha. Linha do tempo, lista de kernels e painel de código ficam juntos, e ir de um kernel lento até a linha que o disparou custa um clique. Quem já passou uma tarde rolando um visualizador web sabe que a diferença está em não perder o fio.
TraceDiff para comparar execuções
O TraceDiff coloca duas execuções lado a lado e marca o que mudou: quais kernels apareceram, quais ficaram mais lentos e onde as brechas cresceram. É o recurso que responde à pergunta mais comum depois de um deploy, e responde com dado, não com palpite.
Compartilhar traces e colaborar
Os traces sobem para a nuvem com o comando npx ncompass, podem ser listados, baixados e compartilhados por link. A outra pessoa abre a mesma visão que você, com o mesmo zoom e as mesmas anotações. Parece pouco até a hora de depurar um problema de desempenho numa thread de chat.
Análise no nível de kernel
Em um sistema de IA lento, o tempo vai embora nos kernels, e é aí que assistentes genéricos quebram. O agente lê dados de contadores no estilo ncu, encontra padrões de kernel repetidos e propõe mudanças concretas: tiling, cargas vetorizadas ou uma configuração de lançamento diferente. A empresa conta que o próprio time usou a ferramenta para escrever um kernel GEMM para Hopper que superou o CUTLASS da NVIDIA em cerca de 3% em um dia, trabalho que antes levava meses.
Funciona dentro do Cursor e do Claude Code
O agente se conecta aos editores que o pessoal já usa, então o raciocínio e a edição do código acontecem no mesmo lugar. Você pede a análise no Cursor, recebe o diagnóstico e já tem o patch esboçado sem trocar de ferramenta. Para times que padronizaram o desenvolvimento com apoio de IA, some o pulo entre o relatório de perfil e o commit.
Prós e contras
Prós
- Junta leitura de trace, compartilhamento e diagnóstico em uma janela do editor, que é justamente a parte lenta de qualquer investigação de desempenho.
- Cobre perguntas de sistema e de kernel, sem precisar de uma segunda ferramenta para o trabalho de CUDA.
- O TraceDiff dá uma resposta defensável para «essa mudança ajudou?» sem repetir uma bateria inteira de benchmarks.
- Começa de graça com a extensão de VS Code, o que deixa barato testar numa carga real antes de falar com o comercial.
Contras
- Sem trace, não serve para nada. Se a carga não pode ser reproduzida nem perfilada, o agente não tem sobre o que raciocinar.
- Foi construída em volta das ferramentas da NVIDIA, e quem usa outro acelerador vai ver que o fluxo não encaixa na própria pilha.
- Os planos pagos e os recursos de time passam pelo comercial: não há preço publicado e a decisão de compra demora mais.
Perguntas frequentes
Um agente de IA e uma extensão de editor para trabalho de desempenho em GPU. Ele lê traces de perfil de cargas de serving e treino, aponta os gargalos e sugere mudanças no código. A empresa também oferece ajuda de engenharia por projeto.
Conteúdo relacionado
Explore ferramentas, skills e artigos relacionados a nCompass Technologies.
Alternativas a nCompass Technologies
Claude for Google Workspace
Anthropic · Escrita · Produtividade · NegóciosClaude for Google Workspace coloca uma barra lateral do Claude dentro do Google Docs, Sheets e Slides, onde ele lê o arquivo aberto e edita tudo ali mesmo.
Claude Haiku 5.5
Anthropic · Escrita · Programação · ChatbotClaude Haiku 5.5 é o modelo pequeno mais rápido e mais barato da Anthropic: US$ 0,10 por milhão de tokens de entrada e janela de 1M de tokens.
NoteWorthy
Suman Hansada · Escrita · Produtividade · Assistente de IANoteWorthy é um aplicativo de notas para iPhone, iPad e Mac que cria títulos, ajusta a formatação, resume notas longas e arquiva cada uma com IA no próprio aparelho. Sem conta, sem envio para servidor e sem requisições de rede.