nCompass Technologies
nCompass Technologies Inc. · Escritura · Voz e idioma · Otro
nCompass Technologies ofrece un agente de IA y una extensión de VS Code que leen trazas de GPU, detectan cuellos de botella entre CPU y GPU y proponen arreglos concretos.
Acerca de nCompass Technologies
About
Qué es nCompass Technologies
nCompass Technologies es una startup respaldada por Y Combinator que vende una herramienta de análisis de trazas y perfilado pensada para quien mantiene sistemas de IA rápidos. Su producto actual junta un agente de IA con una extensión ligera para VS Code y Cursor: abres una traza, preguntas por qué se atasca un trabajo de servicio y recibes una respuesta que señala un kernel concreto, una copia de memoria o un hueco en la planificación.
La empresa nació en 2024 como plataforma de inferencia con una API sin límite de peticiones. Ese negocio la empujó al problema que sus clientes repetían: la pila de servicio se veía bien sobre el papel y lenta en producción, y nadie sabía dónde se iba el tiempo. La herramienta que construyeron para responder esa pregunta terminó siendo el producto que venden hoy, dirigido a equipos de plataforma que corren recomendadores generativos, ranking y servicio de LLM a escala.
La premisa es fácil de enunciar y difícil de cumplir. Encontrar la causa de un problema de rendimiento lleva entre cuatro y ocho veces más tiempo que escribir el código que lo corrige. El ingeniero copia una traza de varios gigabytes al portátil, baja por una pared de contadores y adivina. nCompass mete ese bucle en una ventana del editor y en una conversación.
Los límites importan tanto como la promesa. Es una herramienta para equipos que ya usan los perfiladores de NVIDIA y pueden reproducir una carga lenta cuando hagan falta. Sin traza no hay nada que analizar. Un proyecto pequeño con un solo modelo y sin objetivo de latencia no sacará mucho, y la parte de pago se cierra hablando con el equipo comercial, no en una página de pago.
Primeros pasos
- Crea una cuenta en ncompass.tech e instala la extensión desde el marketplace de VS Code, o añádela a Cursor.
- Perfila tu carga con Nsight Systems o con el perfilador de PyTorch para tener un archivo de traza.
- Abre la traza en la extensión o súbela a la nube con el comando npx ncompass para que tus compañeros también puedan verla.
- Pregunta al agente algo concreto sobre la ejecución, por ejemplo de dónde salen los huecos entre kernels, y lee la lista de sospechosos ordenada por impacto.
- Compara la ejecución nueva con la anterior usando TraceDiff para confirmar que el cambio movió los números de verdad.
Información del producto
Un vistazo rápido a los precios, las plataformas compatibles y el rendimiento de nCompass Technologies.
Ideal para
Los usuarios, tareas y casos de uso en los que esta herramienta encaja mejor.
Usuarios
- Ingenieros de plataforma de ML
- Ingenieros de GPU e inferencia
- Responsables técnicos que reparten trabajo de rendimiento
- Desarrolladores de CUDA
Tareas
- Averiguar por qué un trabajo de servicio queda inactivo
- Comparar dos ejecuciones tras cambiar la configuración
- Revisar una traza con un compañero
- Preparar la reescritura de un kernel
Casos de uso
- Aparece una regresión de latencia tras actualizar el framework y hay una semana para encontrarla
- Una pila de recomendadores generativos no tiene comunidad pública que la ajuste
- Había que decidir si la flota de GPU necesita más tarjetas o mejor código
Funciones clave
Agente de IA que lee tus trazas
El agente recibe un archivo de perfilado y el código que lo rodea, y devuelve una lista corta de cuellos de botella con el razonamiento a la vista. Trabaja en dos planos: preguntas de sistema sobre planificación y movimiento de datos, y preguntas de kernel sobre ocupación, acceso a memoria y mezcla de instrucciones. Puedes discutirle una respuesta y pedirle que compruebe otra hipótesis, más cerca de hablar con un colega que de ejecutar un informe.
Visor de trazas dentro del editor
La salida de Nsight Systems y la del perfilador de PyTorch se abren en la misma ventana, sin sacar la traza de la máquina donde trabajas. Tienes la línea de tiempo, la lista de kernels y el panel de código a la vez, y saltar de un kernel lento a la línea que lo lanzó cuesta un clic. Quien haya pasado una tarde haciendo scroll en un visor web sabe que la diferencia está en no perder el hilo.
TraceDiff: comparar dos ejecuciones
TraceDiff pone dos ejecuciones lado a lado y marca qué cambió: qué kernels aparecieron, cuáles se volvieron más lentos y dónde crecieron los huecos. Es la función que responde a la pregunta más repetida después de un despliegue, y lo hace con datos y no con intuición.
Compartir trazas y colaborar
Las trazas se suben a la nube con el comando npx ncompass, se listan, se descargan y se comparten con un enlace. Tu compañero abre la misma vista que tú, con el mismo zoom y las mismas anotaciones. Suena menor hasta que toca depurar un problema de rendimiento en un hilo de chat.
Análisis a nivel de kernel
En un sistema de IA lento, el tiempo se va sobre todo en los kernels, y ahí es donde fallan los asistentes genéricos. El agente lee datos de contadores al estilo ncu, detecta patrones de kernel que se repiten y propone cambios concretos: particionado, cargas vectorizadas o una configuración de lanzamiento distinta. La empresa cuenta que su propio equipo usó la herramienta para escribir un kernel GEMM para Hopper que superó a CUTLASS de NVIDIA en torno a un 3 % en un día, un trabajo que antes llevaba meses.
Integración con Cursor y Claude Code
El agente se conecta a los editores que ya usa la gente, así que el razonamiento y la edición del código ocurren en el mismo sitio. Pides el análisis en Cursor, recibes el diagnóstico y tienes el parche redactado sin cambiar de herramienta. Para equipos que ya trabajan con asistencia de IA, desaparece el salto entre el informe de perfilado y el commit.
Ventajas y desventajas
Ventajas
- Junta lectura de trazas, colaboración y diagnóstico en una sola ventana del editor, que es justo la parte lenta de toda investigación de rendimiento.
- Cubre preguntas de sistema y de kernel, sin necesidad de una segunda herramienta para el trabajo de CUDA.
- TraceDiff da una respuesta defendible a «¿sirvió este cambio?» sin repetir una batería completa de benchmarks.
- Se empieza gratis con la extensión de VS Code, así que probarla con una carga real sale barato antes de hablar con ventas.
Desventajas
- Sin traza no sirve de nada. Si tu carga no se puede reproducir ni perfilar, el agente no tiene sobre qué razonar.
- Está construida alrededor del ecosistema de herramientas de NVIDIA, y quien use otros aceleradores verá que el flujo no encaja con su pila.
- Los planes de pago y las funciones de equipo se negocian con ventas: no hay precio publicado y la compra tarda más en decidirse.
Preguntas frecuentes
Un agente de IA y una extensión de editor para trabajo de rendimiento en GPU. Lee trazas de perfilado de cargas de servicio y entrenamiento, señala los cuellos de botella y sugiere cambios en el código. También ofrece ayuda de ingeniería por proyecto.
Contenido relacionado
Explora herramientas, habilidades y artículos relacionados con nCompass Technologies.
Alternativas a nCompass Technologies
Google EmbeddingGemma 2
Google DeepMind · Escritura · Imagen · ProgramaciónGoogle EmbeddingGemma 2 es un modelo abierto de 740 millones de parámetros que convierte texto, código, imágenes, audio y fotogramas de vídeo en vectores de un mismo espacio de 768 dimensiones, y funciona en móviles y portátiles.
MePersona
MePersona, Inc. · Escritura · Productividad · MarketingMePersona es una bandeja de entrada unificada con IA para creadores de contenido. Aprende tu forma de escribir, redacta respuestas a los mensajes de tus fans en 12 plataformas y envía solo lo que tú apruebas.
Fluence
Yay Software (Yannick Huchard) · Escritura · Voz e idioma · ProductividadFluence es una app para Android que lee en voz alta PDF, EPUB, archivos de Word y artículos web, sigue la frase que suena y responde preguntas sobre el texto sin salir del teléfono.