Edgee

Edgee enruta cada solicitud según el presupuesto y la política que fijas, y mantiene una cadena configurable de proveedores detrás de cada regla. Si un proveedor devuelve un error 5xx o agota el tiempo de espera, la solicitud pasa al siguiente modelo en lugar de fallar. Cuando se alcanza un tope de gasto, el enrutamiento cambia a un modelo de pesos abiertos a mitad de tarea, así una sesión de programación no se detiene, y la solicitud continúa en un modelo evaluado para trabajo de programación en lugar de abandonar la tarea por completo. Las sesiones no se rompen. Eso importa durante una refactorización larga.

La puerta de enlace recorta tokens redundantes en dos capas. La compresión de entrada maneja aproximadamente el 99% del volumen de tokens al recortar las cargas de resultados de herramientas, el contenido abultado de archivos y la salida de comandos que los agentes leen pero rara vez necesitan de nuevo, mientras que la compresión de salida apunta al flujo más pequeño pero más valioso de respuestas del modelo. Edgee describe esto como sin pérdida semántica para el trabajo de programación, lo que significa que obtienes el mismo resultado del modelo con menos tokens facturados. No se necesitan cambios en el código de la aplicación.

El costo y el uso se desglosan por desarrollador, por repositorio, por PR y por modelo. Los líderes de ingeniería ven el gasto en tiempo real en lugar de esperar la factura mensual. El plan Team suma topes de gasto por asiento con alertas cuando un desarrollador se acerca al límite, además de integración con GitHub para la atribución por repositorio y PR.

Edgee sirve GLM, Kimi y MiniMax a velocidad turbo por un precio mensual fijo. Estos son los modelos a los que caen las políticas de enrutamiento, y están evaluados para tareas de programación. Le dan a los equipos un objetivo más barato que mantiene la calidad lo bastante cerca como para terminar el trabajo.

Puedes usar las claves de proveedor de Edgee por comodidad, o conectar tus propias claves para controlar la facturación y usar modelos personalizados. Edgee no cobra recargo sobre los tokens que ya le pagas a un proveedor, lo que mantiene las configuraciones BYOK neutrales en costo del lado de la puerta de enlace.

La misma puerta de enlace corre dentro de tu propia infraestructura mediante Docker Compose o Helm, conectada o aislada. Los prompts, las respuestas y las claves de proveedor nunca salen de tu red, y eso es lo que hace usable el producto para equipos regulados.

El catálogo abarca modelos de frontera y de pesos abiertos de todos los proveedores principales, con precios en vivo y tamaños de contexto. Al momento de escribir, lista 221 modelos y 974 rutas de proveedor, y cualquiera de ellos es un objetivo válido para una regla de enrutamiento.

Las apps y los agentes pueden llamar a los LLM a través de una sola API de Edgee en lugar de malabarear con SDK de proveedores separados. El uso en esa ruta es de pago por uso sin necesidad de un plan, facturado con una comisión de plataforma del 5% cuando recargas créditos de Edgee.