Hailo AI

La idea central de Hailo AI es ejecutar redes neuronales donde se crean los datos. Cada procesador Hailo hace la inferencia en el dispositivo, así que el video y los datos de sensores no tienen que salir del hardware para analizarse. Eso reduce la latencia, elimina la necesidad de una conexión de red constante y mantiene los datos sensibles en local. Es la diferencia entre una cámara que piensa por sí misma y otra que solo sube el metraje.

El Hailo-8 es el chip más conocido de Hailo. Entrega hasta 26 TOPS para cargas de visión por computadora con un consumo típico de unos 2.5 vatios, y mantiene su memoria dentro del chip en lugar de depender de DRAM externa. ¿Por qué ese diseño de memoria importa más que la cifra bruta de TOPS? Porque el chip puede mantenerse ocupado alimentando sus propias unidades de cómputo, que es donde muchos sistemas de visión en el borde pierden eficiencia. Hailo afirma que supera a procesadores de borde competidores en eficiencia de área y potencia, y las tarjetas basadas en él ejecutan ResNet-50 a altas tasas de fotogramas.

El Hailo-10H es una pieza de segunda generación diseñada para trabajo generativo más que para visión pura. Alcanza 40 TOPS de rendimiento INT4 con el mismo consumo típico de unos 2.5 W que su predecesor, y Hailo lo comercializa como uno de los primeros procesadores de borde autónomos capaces de ejecutar modelos de lenguaje grandes y modelos de visión-lenguaje en local. En un modelo de 2B parámetros produce el primer token en menos de un segundo y mantiene un ritmo por encima de 10 tokens por segundo. También ejecuta modelos de generación de imágenes como Stable Diffusion.

La familia Hailo-15 adopta un enfoque distinto. No es un acelerador adicional. Es un procesador de visión completo que combina el núcleo de IA de Hailo con motores de procesamiento de imagen, así que una cámara puede capturar y analizar video en un solo chip. Hailo dice hasta 20 TOPS para la línea. Hay dos niveles. El Hailo-15H sirve a cámaras de gama alta que necesitan más margen, y el Hailo-15L apunta a cámaras de gran consumo, donde el costo y el consumo son las restricciones.

Hailo vende sus aceleradores como módulos que encajan en interfaces estándar. Eso elimina buena parte del dolor cuando añades IA a un diseño existente. El Hailo-8, el Hailo-8L y el Hailo-10H vienen como tarjetas M.2 que se insertan en PCs y placas embebidas, el Hailo-8R usa el formato mini PCIe, y la línea Hailo-8 Century se vende como tarjetas PCIe. Las tarjetas Century escalan hasta 208 TOPS para cargas densas de video, y el modelo de 52 TOPS arranca en unos $249.

Los chips no sirven de nada sin herramientas, y Hailo respalda su software con fuerza. El Dataflow Compiler convierte modelos de TensorFlow, PyTorch, ONNX y Keras al formato nativo del chip. HailoRT es el entorno de ejecución que gestiona la ejecución en el hardware. El Model Zoo y el Vision Model Explorer te dan redes preentrenadas y preoptimizadas como punto de partida. El paquete de aplicaciones incluye ejemplos funcionales que puedes adaptar. Una comunidad de desarrolladores de más de 10,000 usuarios construye sobre todo esto.

Las piezas de Hailo no son solo hardware de laboratorio. El Hailo-8 admite rangos de temperatura industrial y grados automotrices, y el Hailo-10H está certificado para AEC-Q100 Grade 2, con producción prevista para sistemas automotrices como pantallas de cabina y monitoreo del conductor. Esa homologación permite a un proveedor meter el chip en un vehículo o en una línea de fábrica sin rediseñar alrededor de los límites de temperatura y fiabilidad.