Saltar al contenido

Guías de migraciónDesde Kong AI Gateway

Desde Kong AI Gateway, o junto a él

Kong AI Gateway pone el tráfico de IA en el mismo gateway que el resto de tus API: AI Models con destinos y balanceadores, AI Policies para límites, caché y guardrails, que corren en tus propios planos de datos de Kong o en Konnect. Si usas Kong para todo lo demás, es una razón sólida para quedarte. Esta página es para los equipos que prefieren la parte de IA como un plano de control alojado.

AI Gateway 2.x (2.0 el 2026-07-10, 2.2 el 2026-09-30); alojado en Konnect o autoalojado

Las cuentas de INFRO son de autoservicio. El catálogo, la documentación y el contrato de la API son públicos, el gateway está desplegado, y todo lo que va más allá de v1 está marcado como Más adelante. Planes y prueba

Dónde están las cosas

Versión 2

Kong AI Gateway tiene sus propias versiones: 2.0.0 salió el 2026-07-10 y 2.2.0 el 2026-09-30. 2.x reemplaza los plugins AI Proxy en Services y Routes por entidades: AI Model, AI Model Provider, AI Policy, AI Auth Strategy, AI Consumer Group, AI MCP Server.

En qué cuenta se sirve la solicitud

Tuya. Las credenciales de proveedor se declaran en el AI Model Provider y el gateway las inyecta; Kong no vende inferencia.

Quién lo opera

Konnect aloja el plano de control; los planos de datos corren en tu infraestructura, en Kubernetes o en los Dedicated Cloud Gateways de Kong. La guía del SDK de OpenAI para on-prem dice que requiere Kong Gateway Enterprise.

Kong es un gateway de API general con políticas de IA profundas. Sacar el tráfico de IA de él tiene un costo real, y estos son los casos en los que no compensa.

  • Kong ya está delante de tus API y tu equipo de plataforma lo opera. Un gateway, un modelo de políticas, una guardia.
  • El tráfico debe quedarse en tus propios planos de datos o dentro de tu red. Los planes de INFRO son alojados; lo autoalojado o híbrido es un acuerdo empresarial.
  • Usas caché semántica, el balanceador semántico o de menor latencia, plantillas de prompts o el compresor de prompts. INFRO tiene caché por coincidencia exacta, rutas por prioridad y ponderadas, y ninguna herramienta de prompts.
  • Dependes de AWS Guardrails, Azure Content Safety o GCP Model Armor mediante políticas de Kong, o de tráfico A2A. INFRO tiene sus propias barreras de protección y no tiene A2A.
  • Haces de proxy para files, batches o assistants, o para embeddings en proveedores distintos de OpenAI, Azure OpenAI, Mistral o un endpoint compatible con OpenAI. INFRO no los sirve.

Los cambios, uno por fila. Todo lo que no aparece aquí queda como está.

 Kong AI GatewayINFRO
URL baseTu proxy de Kong o $KONNECT_PROXY_URL más la ruta del AI Model.https://api.infro.io/v1
ClaveUna clave de consumidor de Kong en apikey (key-auth) o un token bearer de OIDC.Una clave del gateway de INFRO en Authorization: Bearer. Las credenciales de proveedor pasan de los AI Model Providers a conexiones de INFRO.
Id del modeloEl nombre del modelo upstream (gpt-4o) o un alias definido con config.route.model.vendor/model, o una ruta cuyo nombre sea tu alias anterior, para que quienes llaman lo sigan enviando.
EncabezadosSe leen de las respuestas: X-Cache-Status, X-AI-RateLimit-*.X-INFRO-Cache y X-RateLimit-Limit en las respuestas; los presupuestos responden 402 en el cuerpo.

Antes · Kong AI Gateway

from openai import OpenAI

kong_url = "https://kong.internal.example.com"
kong_route = "ai"

client = OpenAI(
    api_key="my-consumer-key",
    base_url=f"{kong_url}/{kong_route}",
)

client.chat.completions.create(
    model="my-gpt",  # alias on the AI Model
    messages=[{"role": "user", "content": "Hello"}],
)

Después · INFRO

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["INFRO_API_KEY"],
    base_url="https://api.infro.io/v1",
)

client.chat.completions.create(
    model="my-gpt",  # an INFRO route with the same name
    messages=[{"role": "user", "content": "Hello"}],
)

Los alias pasan a ser rutas

Cada alias de AI Model pasa a ser una ruta con el mismo nombre y los mismos destinos en orden. Una clave del gateway puede quedar fijada a rutas con nombre para que no pueda llamar a un modelo directamente, igual que un consumidor de Kong queda limitado a sus rutas.

Los grupos de consumidores pasan a ser proyectos

Los límites de tokens o de costo por consumidor y por grupo pasan a ser límites de gasto por clave y presupuestos de proyecto. Los niveles de tasa de solicitudes por clave se informan en X-RateLimit-Limit.

Usa ambos mientras te mueves

Nada impide que Kong e INFRO funcionen uno al lado del otro. INFRO también puede ser un upstream de Kong, ya que responde con la forma de OpenAI.

Los objetos de Kong AI Gateway frente a los de INFRO, según la documentación pública de Kong AI Gateway leída el 19 de octubre de 2026 y comprobados contra lo que implementa el gateway. Dos filas dicen que INFRO no tiene nada.

Kong AI GatewayQué hace allíEn INFRO
AI Model Providermisma formaDefinición reutilizable de proveedor que guarda las credenciales.Una conexión de proveedor, sellada, varias claves por proveedor con las claves de reserva al final.
AI Model y destinosmisma formaUn modelo virtual con destinos y un balanceador de carga.Una ruta con destinos ordenados o ponderados, reglas condicionales sobre la solicitud y reglas de fallo por tipo.
Algoritmos de balanceodistintoRound-robin, hash consistente, menos conexiones, menor latencia, menor uso, semántico, prioridad.Solo por prioridad y ponderado, más un clasificador de prompts que elige una clase de destinos. Sin balanceo por latencia, uso ni semántica.
Reintentos, criterios de failover, circuit breakerdistintoReintentos, failover_criteria, max_fails y fail_timeout.Reglas de fallo por tipo (reintentar, hacer failover o detenerse) para 429, 5xx, timeout, conexión, credencial y moderación. Sin configuración de circuit breaker.
AI Auth Strategy y consumidoresdistintoIdentidades key-auth u OIDC, agrupadas para las políticas.Claves del gateway por servicio, con listas de permitidos, rangos de IP y entornos. Los miembros inician sesión con SSO; las llamadas al gateway usan claves.
AI Rate Limiting AdvanceddistintoLímites de tokens o de costo por consumidor, grupo, modelo, proveedor, encabezado o ruta.Presupuestos que rechazan en un techo en dólares por organización, proyecto, miembro, clave y cliente final; niveles de tasa de solicitudes por clave. Sin ventanas por cantidad de tokens.
AI Semantic CachedistintoCaché semántica y exacta en Redis, Valkey o pgvector.Solo coincidencia exacta, opcional, para chat completions.
Prompt Guard, Sanitizer, Semantic guardsdistintoReglas de prompts por patrones y semánticas, depuración de PII, protecciones de respuesta.Barreras de protección que bloquean, ocultan o marcan por patrones, más comprobaciones ejecutadas en un modelo de decisión. Sin protección por similitud semántica.
Integraciones de guardrails en la nubenadaAWS Guardrails, Azure Content Safety y GCP Model Armor.Nada.
Prompt Template, Prompt CompressornadaPrompts con plantillas y compresión de prompts en el gateway.Nada. Los prompts se quedan en tu código.
AI MCP Servermisma formaTráfico MCP en el mismo gateway.Un gateway MCP para tus propios servidores MCP, con herramientas aprobadas y permisos por clave.
AnalíticadistintoUso de tokens, latencia y costo en las analíticas de Konnect.Costo estimado del proveedor por solicitud, conciliado a diario con las API de costos de OpenAI y Anthropic donde agregues una clave de administrador.
Planos de datos autoalojadosdistintoCorrer en tu propia infraestructura.Alojado. Lo autoalojado o híbrido es un acuerdo empresarial.Empresas — Disponible con un acuerdo enterprise, no en autoservicio.

Nuestra lectura de la documentación publicada de Kong AI Gateway, no una prueba ni un benchmark. Si leímos algo mal, dínoslo y corregiremos la fila.

Lo que INFRO no hace

  • Hacer de gateway para tus API que no son de IA.
  • Caché semántica o balanceo semántico, por latencia o por uso.
  • Plantillas o compresión de prompts.
  • Integrar servicios de guardrails en la nube o transportar tráfico A2A.
  • Hacer de proxy para files, batches o assistants, o para embeddings en proveedores distintos de OpenAI, Azure OpenAI, Mistral o un endpoint compatible con OpenAI.
  • Correr en tus propios planos de datos sin un acuerdo empresarial.

Lo que no se traslada

  • Analíticas y registros de Konnect. No hay importador.
  • Políticas como configuración (decK). Recréalas como rutas, presupuestos, listas de permitidos y barreras de protección; la API de administración de INFRO puede crearlas desde un script.

Preguntas

¿Pueden INFRO y Kong funcionar juntos?
Sí. INFRO responde con la forma de OpenAI, así que puede ser un upstream de Kong, o los servicios pueden pasar de Kong a INFRO uno a la vez.
¿Puedo conservar mis alias de modelo?
Sí. Crea una ruta de INFRO con el alias como nombre; quienes llaman siguen enviando el mismo model.
¿Quién paga el uso de modelos?
Tú, directamente a tus proveedores, como con Kong. INFRO es una suscripción con 0% de margen sobre el gasto en modelos.

Migra con nosotros o por tu cuenta

El programa de migración traslada en una llamada tu configuración de Kong AI Gateway a conexiones, rutas y presupuestos de INFRO, y migra contigo el primer servicio. Tus proveedores te siguen facturando directamente; INFRO es una suscripción y agrega 0% al gasto en modelos.

Prueba de 14 días Reserva una sesión de migraciónINFRO vs Kong AI GatewayLeer la guía de inicio rápido

Fuentes

Cada afirmación de esta página sobre Kong AI Gateway proviene de una de estas fuentes, leídas el 19 de octubre de 2026. Nada se deduce de una prueba, un benchmark o una conversación.