Casos de usoFiabilidad
Cuando un proveedor cae, tus funciones de IA siguen respondiendo.
Pon una ruta con nombre delante de las cuentas de proveedor que ya tienes. Una solicitud que agota el tiempo o falla antes de que empiece su respuesta se reintenta en el siguiente destino que elegiste, y tu cliente ve una respuesta, no una caída.
Ruta de ejemplo. Tu cliente envía una solicitud; la traza conserva cada intento.
El problema
Sin un plano de control
- Un incidente de un proveedor es un incidente en tu producto, mientras dure el suyo.
- La lógica de respaldo vive en cada servicio, escrita de forma distinta por cada equipo.
- Un modelo retirado se descubre cuando sus solicitudes empiezan a fallar.
Con INFRO
- Las rutas listan destinos por prioridad o ponderados entre tus propias conexiones.
- El failover ocurre en el gateway, antes de que tu cliente vea un error.
- Las retiradas se anuncian con antelación y se rechazan por su nombre desde la fecha de cierre.
Cómo funciona
Conecta las cuentas que ya pagas
Añade tus propias claves de dos o más proveedores, o dos claves y hosts de uno. No se revende nada; cada proveedor te factura como lo hace hoy.
Pon nombre a una ruta
Lista los destinos por orden de prioridad o por peso. Tu código llama al nombre de la ruta en lugar de a un id de modelo, así que el orden cambia sin desplegar.
Decide qué significa un fallo
Las reglas de fallo eligen, por tipo de fallo, si reintentar, pasar al siguiente destino o detenerse, y las reglas condicionales envían las solicitudes que coinciden a sus propios destinos.
Lo que obtienes
Cada uno está documentado, y cada uno indica qué plan lo incluye. Donde no se nombra ningún plan, está en todos.
Rutas con nombre
Destinos por prioridad o ponderados sobre tus propias conexiones, con comprobaciones de salud, reintentos y failover.
DocumentaciónFailover antes del primer byte
Un destino que agota el tiempo de espera o devuelve 5xx antes de que empiece la respuesta se reintenta en otro lugar sin que tu cliente lo vea.
DocumentaciónReglas condicionales y reglas de fallo
Envía las solicitudes a sus propios destinos según metadatos, función, cliente final, clave, proyecto, tamaño del prompt, streaming, herramientas u hora del día.
DocumentaciónHosts alternativos y reparto entre claves
Una conexión puede listar más hosts para la misma clave; las solicitudes de modelo directo se reparten entre las claves de un proveedor, con las claves de reserva al final.
DocumentaciónRetiros de modelos
Se avisa a las organizaciones que aún envían un modelo en retirada; desde la fecha de cierre se rechaza antes de cualquier llamada, nombrando el reemplazo.
DocumentaciónDisponibilidad a partir de tus claves
La lista de modelos que devuelve tu propia clave se lee cada tres horas, y un modelo que deja de aparecer en ella deja de ofrecerse.
Documentación
Para quién es
- Equipos de plataformaUn lugar donde definir cómo llega cada servicio a cada proveedor, en lugar de una biblioteca de respaldo por repositorio.
- Ingenieros de guardiaCada intento fallido en la traza con el mensaje propio del proveedor, para que la primera pregunta se responda antes de abrir la página.
- Responsables de productoLa mala tarde de un proveedor deja de ser la mala tarde de tus usuarios.
Preguntas frecuentes
¿El failover cambia a un modelo que no elegí?
No. Una ruta solo pasa a los destinos que listaste en ella, en el orden o con los pesos que fijaste. INFRO nunca responde con un modelo distinto en tu nombre.
¿Qué pasa si un stream falla a la mitad?
El failover se aplica antes de que empiece la respuesta. Una vez que los tokens han llegado a tu cliente, la solicitud no se repite en otro lugar; el error se devuelve y se registra en la traza.
¿Necesito cuentas con varios proveedores?
Ayuda, pero no es obligatorio: un proveedor con dos claves, o una clave con un host alternativo, ya da a una ruta un lugar adonde ir. Cada cuenta sigue siendo tuya y te factura directamente.
El contrato completo está en la Documentación de rutas, y todas las demás preguntas están en las preguntas frecuentes.
Guías prácticas
- Guía prácticaCircuit breakers for LLM providers: throttling is not failureThe textbook circuit breaker counts errors. Point it at an LLM provider and the commonest error is a 429 from an account that is working fine. An analysis of what a breaker should count, what it should not, and what to do instead.
- Guía prácticaFailover drills: test LLM provider failure before it happensThe failover path is the least-exercised code in most AI applications, and it runs for the first time during an outage. A method for drilling it on purpose: which faults to inject, a mock upstream that injects them, and the assertions that prove recovery happened.
- Guía prácticaSeptember 3, 2026: provider incidents and failoverOn 3 September 2026 three AI providers posted incidents within hours of each other. Their own status pages tell a more precise story than the headlines, and it is the story failover has to be designed for.
Empezar
Pruébalo en tus propias cuentas de proveedor.
Conecta un proveedor, crea una clave del gateway y cambia una URL base. Tus proveedores te siguen facturando directamente; 0% de margen sobre el gasto en modelos.