Saltar al contenido

Guías de migraciónDesde LLM Gateway

Desde LLM Gateway, conservando tus propias claves de proveedor

LLM Gateway (llmgateway.io) funciona con su propio acceso a proveedores pagado con créditos, con tus propias claves de proveedor, o con ambos y un respaldo de tus claves a los créditos. Los equipos en su modo BYOK ya están muy cerca de INFRO. Esta página traslada ese modo y dice con claridad lo que INFRO no hace.

llmgateway.io; núcleo AGPLv3 con una edición `ee/` con licencia; alojado o autoalojado

Las cuentas de INFRO son de autoservicio. El catálogo, la documentación y el contrato de la API son públicos, el gateway está desplegado, y todo lo que va más allá de v1 está marcado como Más adelante. Planes y prueba

Dónde están las cosas

Licencia

theopenco/llmgateway es AGPLv3 en su núcleo, con funciones comerciales bajo una licencia Enterprise aparte en ee/. Está alojado en api.llmgateway.io y se puede autoalojar.

En qué cuenta se sirve la solicitud

Su propio acceso a proveedores con créditos prepagados, tus claves de proveedor (sin margen del gateway, según su documentación), o un modo híbrido que pasa de tus claves a los créditos.

Más allá de un gateway

Su documentación también cubre planes de programación, una app de chat, un portal de proveedores, un SDK de pagos, decisiones y un endpoint de System One. Eso no forma parte de esta correspondencia.

Es de código abierto y amplio. Quédate si para esto lo usas.

  • Autoalojas bajo la AGPL. INFRO es alojado; el autoalojado o híbrido requiere un acuerdo enterprise.
  • Usas ids de modelo sin proveedor para que elija uno según precio, disponibilidad, rendimiento o latencia, o la selección de modelo auto y smart. INFRO no elige por precio ni velocidad.
  • Tu aplicación con AI SDK usa el endpoint del protocolo del AI Gateway y quieres un cambio solo de URL base. INFRO no implementa ese protocolo.
  • Usas Realtime, OCR o búsqueda a través de él, embeddings de proveedores distintos de OpenAI, Azure OpenAI o Mistral, o quieres acceso a modelos sin tus propias cuentas de proveedor.

Los cambios, uno por fila. Todo lo que no aparece aquí queda como está.

 LLM GatewayINFRO
URL basehttps://api.llmgateway.io/v1, o /v1/ai para el protocolo del gateway del AI SDK.https://api.infro.io/v1
ClaveUna clave de LLM Gateway.Una clave del gateway de INFRO; tus claves de proveedor pasan a ser conexiones.
Id del modelogpt-5.6-terra (el gateway elige), openai/gpt-5.6-terra (fijado), auto, dynamic/<name>.openai/gpt-5.6-terra, o el nombre de una ruta en lugar de dynamic/<name>.
EncabezadosX-LLMGateway-User-ID, X-LLMGateway-Feature, X-No-Fallback, x-no-cache.X-INFRO-User-Id, X-INFRO-Feature; routing.providers para mantener una solicitud en un proveedor.

Antes · LLM Gateway

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.llmgateway.io/v1",
  apiKey: process.env.LLM_GATEWAY_API_KEY,
  defaultHeaders: {
    "X-LLMGateway-User-ID": "user_123",
    "X-LLMGateway-Feature": "chat",
  },
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
});

Después · INFRO

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
  defaultHeaders: {
    "X-INFRO-User-Id": "user_123",
    "X-INFRO-Feature": "chat",
  },
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
});

Apps con el AI SDK

Reemplaza el proveedor del gateway por createOpenAI({ baseURL: "https://api.infro.io/v1", apiKey }) de @ai-sdk/openai y llama a .chat(modelId). Los ids de modelo siguen siendo vendor/model.

El failover está activado por defecto

Una solicitud que nombra un modelo hace failover entre tus conexiones que lo sirven. routing.providers.allow la mantiene en los proveedores elegidos, como hacían X-No-Fallback o un id fijado.

Las rutas dinámicas pasan a ser rutas

Vuelve a crear cada flujo dynamic/<name> como una ruta con los mismos destinos; un clasificador de prompts cubre el enrutamiento por tipo de prompt.

Los objetos de LLM Gateway frente a los de INFRO, según la documentación pública de LLM Gateway leída el 19 de octubre de 2026 y comprobados contra lo que implementa el gateway. Dos filas dicen que INFRO no tiene nada.

LLM GatewayQué hace allíEn INFRO
Claves de proveedor (BYOK)distintoTus claves con modelos permitidos, topes de gasto y límites de tasa; respaldo híbrido a créditos.Conexiones con modelos por clave; sin respaldo en la cuenta de nadie más.
Enrutamiento por precio, rendimiento, latencianadaLos ids sin prefijo y las estrategias de routing eligen un proveedor.Nada. Las rutas fijan el orden o los pesos.
`auto`, `smart`, rutas dinámicasdistintoModelo elegido por solicitud, o por un flujo con nombre.Rutas, con un clasificador de prompts que envía cada clase de prompt a sus propios destinos.
Claves de API y reglas de IAMmisma formaLímites de gasto y modelos o proveedores permitidos y denegados por clave.Límites de gasto, listas de permitidos y listas de proveedores por clave; presupuestos en cuatro alcances más.
Caché de respuestas del gatewaymisma formaCaché de respuestas a nivel de proyecto con TTL; x-no-cache para omitirla.Caché de coincidencia exacta opcional con TTL y espacio de nombres.
Encabezados de metadatosdistintoCualquier encabezado X-LLMGateway-*.metadata en el cuerpo, o X-INFRO-User-Id, X-INFRO-Feature, X-INFRO-Trace-Id.
Protocolo de gateway del AI SDKnadaReemplazo directo para apps con @ai-sdk/gateway cambiando la URL base.No implementado. Usa el proveedor OpenAI del AI SDK.
Barreras de protección, registros de auditoría, SSOmisma formaReglas de contenido y eventos de seguridad; registros de auditoría y SSO en Enterprise.Barreras de protección, un registro de auditoría, y SSO con SCIM desde el plan Business.
Embeddings, Realtime, OCR, búsquedadistintoSe sirve.Embeddings en tu conexión de OpenAI, Azure OpenAI, Mistral o compatible con OpenAI. Realtime, OCR y búsqueda no se sirven.
AutoalojamientodistintoNúcleo AGPLv3, Docker y Kubernetes.Alojado. Lo autoalojado o híbrido es un acuerdo empresarial.Empresas — Disponible con un acuerdo enterprise, no en autoservicio.

Nuestra lectura de la documentación publicada de LLM Gateway, no una prueba ni un benchmark. Si leímos algo mal, dínoslo y corregiremos la fila.

Lo que INFRO no hace

  • Elegir un proveedor por precio, disponibilidad, rendimiento o latencia.
  • Implementar el protocolo de Vercel AI Gateway.
  • Servir Realtime, OCR o búsqueda, o embeddings en proveedores distintos de OpenAI, Azure OpenAI, Mistral o un endpoint compatible con OpenAI.
  • Recurrir a una cuenta que no es tuya.
  • Ejecutarse bajo una licencia de código abierto.

Lo que no se traslada

  • Registros, analíticas e historial de costos. No hay importador.
  • Créditos en tu cuenta de LLM Gateway.
  • Rutas dinámicas y reglas de IAM como objetos. Recréalas como rutas y listas de permitidos.

Preguntas

¿INFRO admite el protocolo de Vercel AI Gateway como LLM Gateway?
No. Las aplicaciones con AI SDK llaman a INFRO mediante @ai-sdk/openai con una URL base de https://api.infro.io/v1; los ids de modelo siguen igual.
¿Quién paga a los proveedores?
Tú, directamente, en tus propias cuentas. INFRO es una suscripción con 0% de markup sobre el gasto en modelos.
¿INFRO es de código abierto?
No. INFRO es alojado; un despliegue autoalojado o híbrido es un acuerdo enterprise.

Migra con nosotros o por tu cuenta

El programa de migración traslada en una llamada tu configuración de LLM Gateway a conexiones, rutas y presupuestos de INFRO, y migra contigo el primer servicio. Tus proveedores te siguen facturando directamente; INFRO es una suscripción y agrega 0% al gasto en modelos.

Prueba de 14 días Reserva una sesión de migraciónLeer la guía de inicio rápido

Fuentes

Cada afirmación de esta página sobre LLM Gateway proviene de una de estas fuentes, leídas el 19 de octubre de 2026. Nada se deduce de una prueba, un benchmark o una conversación.