Ultra AI

Todas las peticiones van a https://api.ultraai.app/v1, así que los SDK oficiales de OpenAI funcionan sin cambios. El proveedor y el modelo se nombran dentro de la petición, no en el código. Ese único endpoint explica por qué cambiar de proveedor lleva minutos y no un sprint.

Los prompts viven en el panel, no repartidos por archivos del repositorio. Los editas, los versionas y los referencias por clave, y los cambios de texto dejan de mezclarse con los despliegues. Quien reescribe instrucciones a diario le saca más partido.

Hay dos modos y entre los dos cubren casi todo: caché exacta para peticiones idénticas y caché por similitud para prompts que dicen lo mismo con otras palabras. El umbral de similitud y la caducidad se fijan en cada llamada. La empresa habla de hasta 10 veces menos coste en API, una cifra que depende de cuánto se repita tu tráfico.

Cada llamada queda registrada con latencia, tokens, coste y la ruta que tomó. Las vistas agregadas muestran el gasto por modelo y la tasa de errores a lo largo del tiempo. Es la parte de observabilidad de IA que casi ninguna pasarela casera incluye, y suele ser el motivo por el que los equipos se quedan con la herramienta.

Pones varios modelos en orden de prioridad y la pasarela prueba el siguiente cuando una llamada falla. El failover cubre límites de proveedor, tiempos de espera y errores del servicio. Tus usuarios reciben una respuesta más lenta en lugar de una pantalla de error.

Los topes se atan al identificador de usuario que envías en cada petición, junto con un número de peticiones y una ventana temporal. Puedes apretar una cuenta concreta sin tocar la configuración global. En productos freemium, eso separa un mal día de un susto en la factura.