EnergeticAI
EnergeticAI open-source project · Programación
EnergeticAI es una distribución de código abierto de TensorFlow.js hecha para funciones serverless: un modelo de embeddings o un clasificador de texto arranca en unos 50 ms.
Acerca de EnergeticAI
What Is EnergeticAI
EnergeticAI es una versión recortada de TensorFlow.js empaquetada para funciones serverless como AWS Lambda, Vercel Functions o Netlify Functions. Ataca un problema muy concreto de despliegue. La librería original pesa entre 146 MB y 513 MB sin comprimir, así que el límite de tamaño del paquete salta antes de que tu código llegue a ejecutarse. Además, los pesos del modelo se descargan en la primera llamada y eso empuja el arranque por encima de los dos segundos.
El proyecto conserva lo necesario para inferir y tira el resto. El módulo ronda los 3 MB, el arranque se queda cerca de los 50 ms según la medición del propio equipo y el paquete central funciona como reemplazo directo de @tensorflow/tfjs-core. En la práctica, el código y los modelos que ya tienes suelen seguir funcionando sin cambios.
Los límites pesan tanto como las ventajas. Los modelos preentrenados cubren embeddings y clasificación de texto en inglés, la búsqueda semántica sigue marcada como planificada y todo corre sobre WebAssembly, sin GPU. La versión en npm es la 0.2.0, publicada en junio de 2023, así que conviene tratarlo como un proyecto estable pero tranquilo, no como una plataforma en expansión.
Getting Started
- Instala Node 18 o superior y añade el paquete central con la librería de modelos que vayas a usar:
npm install @energetic-ai/core @energetic-ai/embeddings @energetic-ai/model-embeddings-en. - Importa
initModeldesde la librería de modelos y la fuente correspondiente, y carga los pesos una vez por instancia de la función. - Llama a
model.embed()con un array de cadenas para obtener vectores, o usa el paquete de clasificadores y entrena con unas pocas etiquetas. - Compara los vectores con el helper
distancey lleva la puntuación a tu lógica de ordenación, filtrado o enrutado. - Despliega en tu proveedor serverless y revisa el tamaño del paquete, porque ese límite es justo el motivo por el que la gente cambia a EnergeticAI.
Información del producto
Un vistazo rápido a los precios, las plataformas compatibles y el rendimiento de EnergeticAI.
Ideal para
Los usuarios, tareas y casos de uso en los que esta herramienta encaja mejor.
Usuarios
- Desarrolladores de Node.js que buscan IA para serverless
- Indie makers y equipos pequeños
- Equipos con reglas estrictas de datos
- Desarrolladores backend que añaden su primera función de IA
Tareas
- Montar recomendaciones de producto con embeddings
- Clasificar tickets de soporte o formularios con un clasificador de texto entrenado con unas decenas de ejemplos etiquetados.
- Agrupar opiniones, reseñas o anuncios duplicados comparando distancias entre vectores en lugar de escribir reglas de palabras clave.
- Añadir una capa ligera de búsqueda semántica sobre unos cientos de documentos, siempre que aceptes que los modelos específicos para esa tarea aún figuran como planificados.
Casos de uso
- Desplegar en un plan gratuito o barato con tope de paquete, donde un módulo de 3 MB decide si publicas o te quedas fuera.
- Inferir sobre texto que no puedes enviar a una API externa, como tickets internos, notas clínicas o datos de clientes bajo contrato.
- Prototipar una función de IA en el portátil y subir el mismo código a producción sin reescribir la capa del modelo alrededor del SDK de un proveedor.
Funciones clave
Empaquetado pensado para serverless
Todo el proyecto gira alrededor de las restricciones de las plataformas de funciones. El módulo baja a unos 3 MB, un tamaño que entra en los límites habituales de Lambda y de los entornos edge donde TensorFlow.js se queda fuera. Los pesos viajan dentro del paquete en lugar de descargarse en la primera llamada, así que un contenedor frío no espera a la red para responder.
Arranque en frío
La web del proyecto habla de hasta 67 veces más velocidad que TensorFlow.js en funciones serverless, medido al inicializar el modelo y calcular el embedding de un párrafo de cinco frases en un MacBook Pro con M1 Max. Tus cifras variarán según el proveedor y el tamaño de la entrada. La dirección se mantiene igual: decenas de milisegundos en lugar de segundos, que es lo que decide si una petición caduca.
Modelo de embeddings preentrenado
El paquete de embeddings convierte cadenas en vectores que puedes comparar, agrupar u ordenar. El modelo en inglés viene en un paquete de pesos aparte, de modo que instalas solo el idioma que necesitas. Es la vía más rápida a recomendaciones y similitud de texto sin entrenar nada.
Clasificador de texto con pocos ejemplos
El paquete de clasificadores entrena en tiempo de ejecución con un conjunto pequeño de ejemplos etiquetados. Encaja en tareas de enrutado y etiquetado donde tienes 20 o 50 casos y no un dataset completo. Las etiquetas viven en tu repositorio y el modelo se reentrena al desplegar, así que el comportamiento queda versionado junto al código.
Compatibilidad directa con TensorFlow.js
El módulo central replica la API de @tensorflow/tfjs-core, por lo que los imports y el código de modelos existentes suelen seguir igual. Puedes probarlo en un solo endpoint antes de comprometer todo el servicio, y eso abarata la decisión de cambiar.
Backend WebAssembly
La inferencia pasa por WebAssembly, rápido para entradas cortas y disponible en cualquier host de Node sin compilaciones nativas. No hay aceleración por GPU, así que los lotes grandes y los documentos largos tardan bastante más que en una máquina con CUDA.
Ventajas y desventajas
Ventajas
- Reduce el paquete de cientos de megabytes a unos 3 MB, muchas veces la única forma de publicar un modelo en un plan serverless.
- El arranque en frío se queda cerca de los 50 ms en la medición del proyecto, y la petición del usuario no se queda esperando.
- Licencia Apache 2.0 y modelos preentrenados elegidos con términos parecidos, lo que simplifica el uso comercial.
- Sin coste por llamada y sin enviar datos fuera de tu función, una diferencia real frente a las APIs de embeddings alojadas.
- El paquete central entra en código TensorFlow.js existente, así que migrar suele ser cambiar una dependencia.
Desventajas
- Los modelos preentrenados solo existen en inglés, así que un producto multilingüe necesita pesos propios y pruebas adicionales.
- Sin GPU, los lotes grandes van más lentos y un conjunto largo de documentos puede tardar segundos por petición en una función pequeña.
- El catálogo es corto: hoy hay embeddings y clasificadores, mientras la búsqueda semántica sigue como planificada.
- En npm la versión es la 0.2.0 de junio de 2023, así que adoptas un proyecto con ritmo de publicación lento: fija versiones y lee el código cuando algo falle.
Preguntas frecuentes
Ejecuta modelos de IA de código abierto dentro de funciones serverless. Los usos típicos son recomendaciones de producto, clasificación de texto, detección de duplicados y búsqueda semántica en backends Node.js que no pueden cargar una pila completa de machine learning.
Contenido relacionado
Explora herramientas, habilidades y artículos relacionados con EnergeticAI.
Alternativas a EnergeticAI
Forefront
Forefront · ProgramaciónForefront es una plataforma web para construir con IA de código abierto. Te deja ajustar los principales modelos de lenguaje de código abierto con tus propios datos, evaluar cómo rinden y ejecutarlos a través de una API o exportarlos para alojarlos tú mismo. Los desarrolladores que quieren la comodidad de una plataforma cerrada pero insisten en ser dueños de sus modelos y sus datos son el público objetivo.
Startkit
StartKit.AI · ProgramaciónStartkit es un boilerplate para crear productos de SaaS con IA y wrappers de IA. Piénsalo como un boilerplate para startups de IA con las partes aburridas ya conectadas: autenticación, pagos con Stripe y Lemon Squeezy, límites de uso, correo transaccional y un kit de inicio de API de IA que habla con OpenAI, Anthropic, Groq o Llama. Clonas el repositorio, pones tu precio y te dedicas a la parte del producto por la que la gente paga de verdad. Está hecho con Next.js sobre React y Tailwind, así que buena parte del código boilerplate ya te resulta familiar.
Testim
Tricentis · ProgramaciónTestim es una plataforma de automatización de pruebas impulsada por IA para crear y ejecutar pruebas de extremo a extremo en aplicaciones web, móviles y Salesforce. Se apoya en el aprendizaje automático para mantener las pruebas estables cuando cambia una interfaz, así que los equipos dedican menos tiempo a reparar selectores rotos. No está nada mal para una herramienta de pruebas automatizadas que puedes empezar a usar hoy mismo. Creas pruebas grabando acciones en un navegador y luego añades JavaScript cuando necesitas más control. Es una opción sólida para equipos de QA con mucho trabajo.