Saltar al contenido

Gateway de IA en Azure API Management y Microsoft Foundry

INFRO vs Azure AI Gateway

El gateway de IA de Azure es un conjunto de capacidades de IA en Azure API Management, que también se activa desde Microsoft Foundry para los deployments de modelos de allí. Se coloca delante de Foundry y Azure OpenAI, de las APIs con forma OpenAI, Anthropic y Vertex de otros proveedores, de modelos autoalojados, de servidores MCP y de APIs de agentes, y les aplica política de APIM: límites de tokens por minuto y cuotas de tokens por clave, caché semántica, comprobaciones de Azure AI Content Safety, balanceo de carga ponderado y por prioridad con interruptores de circuito, y métricas de tokens en Azure Monitor. Para una empresa que ya usa API Management, extiende un gateway que el equipo de plataforma opera hoy, y eso es difícil de superar.

Cuándo Azure AI Gateway es la mejor opción
  • Ya usas Azure API Management. Tu tráfico de IA obtiene la misma instancia, red, identidad, portal de desarrolladores y lenguaje de políticas que el resto de tus APIs, operado por el equipo que ya es su responsable.
  • Eres una empresa nativa de Azure en Foundry. Activar el gateway desde el portal de Foundry da a cada proyecto sus propios límites y cuotas de tokens en una instancia compartida, con identidad administrada hacia los modelos y sin claves de API que repartir.
  • La caché semántica es el requisito. APIM devuelve respuestas en caché para prompts de significado similar, con Azure Managed Redis y un deployment de embeddings; la caché de respuestas de INFRO es solo de coincidencia exacta, para chat completions.
  • Necesitas una canalización de políticas programable. Las políticas de APIM con expresiones pueden transformar, enrutar y limitar según cualquier dato de la solicitud; los controles de INFRO son funciones fijas configuradas en una consola y una API, no un lenguaje de políticas.
  • Tu capacidad es Provisioned Throughput y el problema son los tokens por minuto, no los dólares. Los límites de tokens y el balanceo de carga por prioridad entre deployments PTU y de pago por uso son en torno a lo que se construyen las políticas de IA de APIM.

Esta sección no es una cortesía. Si alguno de estos casos te describe, elige Azure AI Gateway: un cliente que adopta la capa equivocada por nuestro consejo es peor para nosotros que uno que nunca tuvimos.

Dónde se separan realmente.

Un gateway que operas o un servicio que usas
El gateway de IA de Azure es API Management: una instancia en tu suscripción, en un nivel de servicio que eliges, configurada con políticas XML y operada por tu equipo de plataforma; Foundry crea por defecto una instancia Basic v2 y recomienda Standard v2 o Premium v2 para producción. Es la forma adecuada para una empresa que ya usa APIM y tiene gente para ello. Los planes de INFRO son alojados, con presupuestos, rutas, listas de permitidos y un registro de auditoría configurados en una consola o mediante su API de gestión, y nada que desplegar; un acuerdo enterprise puede ponerlo en tu propia infraestructura.
Tokens, o dólares
La política llm-token-limit de APIM limita tokens: una tasa por minuto, una cuota por hora, día, semana, mes o año, o ambas, con clave por suscripción, dirección IP o cualquier expresión, y responde 429 o 403. Los tokens son la unidad correcta para repartir la capacidad de un deployment. Son la unidad equivocada para un presupuesto, porque un token de un modelo y uno de otro difieren en precio por órdenes de magnitud, y una cuota escrita en tokens hay que reescribirla cada vez que un equipo cambia de modelo. Los presupuestos de INFRO son dólares de costo estimado del proveedor (con tus tarifas negociadas desde el plan Team) a nivel de organización, proyecto, miembro y clave, se comprueban antes de llamar al proveedor y se rechazan con 402 cuando no queda margen.
El costo como registro, no como una métrica que construir
APIM envía recuentos de tokens a Azure Monitor y Application Insights con las dimensiones que agregues, y registra prompts y respuestas si lo activas. Convertir eso en costo por equipo implica poner precio a los tokens por tu cuenta. INFRO pone precio a cada solicitud cuando se registra, indica qué tarifa respondió (tu tarifa negociada, la tarifa publicada por el fabricante o sin precio) y la atribuye a un proyecto, clave, modelo, ruta o cliente final. En el plan Business, la estimación del mes se contrasta con las APIs de costos de OpenAI y de Anthropic y se declara la variación.
No es una cosa o la otra
Azure OpenAI es uno de los tipos de proveedor que conecta INFRO, a través de los deployments de tu recurso y su propia clave. Una empresa puede mantener APIM delante de su entorno de Azure y usar INFRO para los presupuestos, la atribución y el registro de auditoría de todo ese entorno y de los contratos directos con proveedores que hay a su lado.

Lado a lado.

Nuestra columna también tiene guiones. Una comparación en la que un lado solo tiene marcas de verificación no se la cree nadie, y con razón.

CapacidadAzure AI GatewayINFRO
Una API para muchos proveedoressíFoundry, Azure OpenAI, APIs con forma OpenAI, Anthropic y Vertexsílo que sirvan tus proveedores conectados
Nada que desplegar ni operarnouna instancia de API Management en tu suscripciónsíservicio alojado
Límites en tokenssípor minuto y por período, por cualquier clavenolímites de tasa de solicitudes por clave, en su lugar
Presupuestos en dólares que rechazan una solicitudnosolo cuotas de tokenssíorganización, proyecto, miembro, clave; 402
Costo por solicitud, atribuidoparcialmétricas de tokens por dimensión personalizadasíproyecto, clave, modelo, ruta, cliente final
Caché de respuestassísemántica, con Azure Managed Redisparcialcoincidencia exacta, solo chat completions
Seguridad de contenidosíPolítica de Azure AI Content Safetyparcialpatrones más comprobaciones opcionales mediante clasificador; chat completions; plan Business
Balanceo de carga y failoversíponderado, prioridad, interruptor de circuitosírutas por prioridad o ponderadas, cualquier modalidad
Política programablesíExpresiones de política de APIMnofunciones configuradas, no un lenguaje de políticas
Servidores MCP y APIs de agentessíMCP y A2AparcialGateway MCP, plan Business
Disponible hoysísíregistro por cuenta propia

Nuestra lectura de la documentación pública de cada producto a fecha de octubre de 2026. No citamos precios de la competencia: los suyos cambian y una cifra equivocada sobre el negocio de otro es peor que ninguna. ¿Crees que una fila es incorrecta? Dínoslo y la corregiremos.

Calcula cuánto vale la diferencia

Estima cuánto cuesta tu combinación actual de modelos con las tarifas de lista de tus proveedores y el plan que necesita, o pídenos que leamos tu uso real y te digamos dónde ayudaríamos y dónde no.

¿Ya usas Azure AI Gateway? Lee la guía de migración desde Azure OpenAI: el código que cambia, lo que se conserva y lo que no.