Gateway de IA no Azure API Management e no Microsoft Foundry
INFRO vs Azure AI Gateway
O gateway de IA do Azure é um conjunto de recursos de IA no Azure API Management, também ativado a partir do Microsoft Foundry para os deployments de modelos de lá. Ele fica na frente do Foundry e do Azure OpenAI, de APIs de outros provedores nos formatos OpenAI, Anthropic e Vertex, de modelos auto-hospedados, de servidores MCP e de APIs de agentes, e aplica a eles a política do APIM: limites de tokens por minuto e cotas de tokens por chave, cache semântico, verificações do Azure AI Content Safety, balanceamento de carga ponderado e por prioridade com circuit breakers e métricas de tokens no Azure Monitor. Para uma empresa que já roda o API Management, ele estende um gateway que a equipe de plataforma já opera hoje, e isso é difícil de superar.
- Você já roda o Azure API Management. Seu tráfego de IA ganha a mesma instância, rede, identidade, portal do desenvolvedor e linguagem de políticas do restante das suas APIs, operados pela equipe que já cuida delas.
- Você é uma empresa nativa do Azure no Foundry. Ativar o gateway pelo portal do Foundry dá a cada projeto os seus próprios limites e cotas de tokens em uma instância compartilhada, com identidade gerenciada para os modelos e sem chaves de API para distribuir.
- Cache semântico é o requisito. O APIM devolve respostas em cache para prompts de sentido parecido, usando o Azure Managed Redis e um deployment de embeddings; o cache de respostas do INFRO é apenas de correspondência exata, para chat completions.
- Você precisa de um pipeline de políticas programável. As políticas do APIM com expressões podem transformar, rotear e limitar com base em qualquer item da requisição; os controles do INFRO são recursos fixos configurados em um console e em uma API, não uma linguagem de políticas.
- Sua capacidade é Provisioned Throughput e o problema são tokens por minuto, não dólares. Limites de tokens e balanceamento de carga por prioridade entre deployments PTU e pay-as-you-go são o centro das políticas de IA do APIM.
Esta seção não é cortesia. Se uma destas situações descreve você, escolha o Azure AI Gateway — um cliente que adota a camada errada por conselho nosso é pior para nós do que um que nunca tivemos.
Onde os dois realmente divergem.
- Um gateway que você opera ou um serviço que você usa
- O gateway de IA do Azure é o API Management: uma instância na sua assinatura, em um nível de serviço que você escolhe, configurada com políticas em XML e operada pela sua equipe de plataforma — o Foundry cria por padrão uma instância Basic v2 e recomenda Standard v2 ou Premium v2 para produção. É o formato certo para uma empresa que já roda o APIM e tem pessoas para isso. Os planos do INFRO são hospedados, com orçamentos, rotas, listas de permissões e um log de auditoria configurados em um console ou pela API de gerenciamento, e nada para implantar; um contrato enterprise pode colocá-lo na sua própria infraestrutura.
- Tokens ou dólares
- A política llm-token-limit do APIM limita tokens: uma taxa por minuto, uma cota por hora, dia, semana, mês ou ano, ou ambas, com chave por assinatura, endereço IP ou qualquer expressão, respondendo 429 ou 403. Tokens são a unidade certa para repartir a capacidade de um deployment. São a unidade errada para um orçamento, porque um token em um modelo e um token em outro diferem em preço por ordens de grandeza, e uma cota escrita em tokens precisa ser reescrita sempre que uma equipe troca de modelo. Os orçamentos do INFRO são em dólares de custo estimado do provedor — com as suas tarifas negociadas a partir do plano Team — por organização, projeto, membro e chave, verificados antes de o provedor ser chamado e recusados com 402 quando não há margem.
- Custo como um registro, não uma métrica a construir
- O APIM envia contagens de tokens ao Azure Monitor e ao Application Insights com as dimensões que você adicionar e registra prompts e respostas se você ativar. Transformar isso em custo por equipe significa precificar os tokens por conta própria. O INFRO precifica cada requisição no momento em que ela é registrada, diz qual tarifa foi aplicada — a sua tarifa negociada, a tarifa publicada pelo fornecedor ou sem preço — e a atribui a um projeto, chave, modelo, rota ou usuário final. No plano Business, a estimativa do mês é conferida com as APIs de custo da própria OpenAI e da Anthropic, e a variação é informada.
- Não é um ou outro
- O Azure OpenAI é um dos tipos de provedor que o INFRO conecta, por meio dos deployments do seu recurso e da chave dele. Uma empresa pode manter o APIM na frente do seu ambiente Azure e usar o INFRO para os orçamentos, a atribuição e a trilha de auditoria em todo esse ambiente e nos contratos diretos com provedores ao lado dele.
Lado a lado.
A nossa coluna também tem traços. Uma comparação em que um dos lados só tem marcações de sim é uma em que ninguém acredita, e com razão.
| Recurso | Azure AI Gateway | INFRO |
|---|---|---|
| Uma API para muitos provedores | simFoundry, Azure OpenAI, APIs nos formatos OpenAI, Anthropic e Vertex | simo que os seus provedores conectados servirem |
| Nada a implantar ou operar | nãouma instância do API Management na sua assinatura | simserviço hospedado |
| Limites em tokens | simpor minuto e por período, por qualquer chave | nãolimites de taxa de requisições por chave |
| Orçamentos em dólares que recusam uma requisição | nãoapenas cotas de tokens | simorganização, projeto, membro, chave; 402 |
| Custo por requisição, atribuído | parcialmétricas de tokens por dimensão personalizada | simprojeto, chave, modelo, rota, usuário final |
| Cache de respostas | simsemântico, com Azure Managed Redis | parcialcorrespondência exata, apenas chat completions |
| Segurança de conteúdo | simPolítica do Azure AI Content Safety | parcialpadrões mais verificações opcionais por classificador; chat completions; plano Business |
| Balanceamento de carga e failover | simponderado, por prioridade, circuit breaker | simrotas por prioridade ou ponderadas, qualquer modalidade |
| Política programável | simExpressões de política do APIM | nãorecursos configurados, não uma linguagem de políticas |
| Servidores MCP e APIs de agentes | simMCP e A2A | parcialGateway MCP, plano Business |
| Disponível hoje | sim | simcadastro self-service |
Nossa leitura da documentação pública de cada produto em outubro de 2026. Não citamos preços de concorrentes — os deles mudam, e um número errado sobre o negócio de outra pessoa é pior que nenhum. Acha que uma linha está errada? Avise e corrigiremos.
Calcule quanto vale a diferença
Estime quanto o seu mix atual de modelos custa pelas tarifas de tabela dos seus provedores e o plano de que ele precisa, ou peça que analisemos o seu uso real e digamos onde ajudaríamos e onde não.
Já usa o Azure AI Gateway? Leia o guia de migração do Azure OpenAI: o código que muda, o que é mantido e o que não é.