Passerelle d'IA dans Azure API Management et Microsoft Foundry
INFRO vs Azure AI Gateway
La passerelle d'IA d'Azure est un ensemble de capacités d'IA dans Azure API Management, aussi activées depuis Microsoft Foundry pour les deployments de modèles qui s'y trouvent. Elle se place devant Foundry et Azure OpenAI, devant les API de style OpenAI, Anthropic et Vertex d'autres fournisseurs, les modèles auto-hébergés, les serveurs MCP et les API d'agents, et leur applique les politiques APIM : limites de tokens par minute et quotas de tokens par clé, cache sémantique, contrôles Azure AI Content Safety, répartition de charge pondérée et par priorité avec disjoncteurs, et métriques de tokens dans Azure Monitor. Pour une entreprise qui exploite déjà API Management, elle étend une passerelle que l'équipe plateforme gère aujourd'hui, et c'est difficile à battre.
- Vous exploitez déjà Azure API Management. Votre trafic d'IA bénéficie de la même instance, du même réseau, de la même identité, du même portail développeur et du même langage de politiques que le reste de vos API, exploités par l'équipe qui en est déjà responsable.
- Vous êtes une entreprise Azure-native sur Foundry. Activer la passerelle depuis le portail Foundry donne à chaque projet ses propres limites et quotas de tokens sur une instance partagée, avec une identité managée vers les modèles et aucune clé API à distribuer.
- Le cache sémantique est l'exigence. APIM renvoie des réponses en cache pour des prompts de sens voisin, avec Azure Managed Redis et un deployment d'embeddings ; le cache de réponses d'INFRO ne fonctionne qu'en correspondance exacte, pour les complétions de chat.
- Il vous faut un pipeline de politiques programmable. Les politiques APIM avec expressions peuvent transformer, router et limiter selon n'importe quel élément de la requête ; les contrôles d'INFRO sont des fonctionnalités fixes configurées dans une console et une API, pas un langage de politiques.
- Votre capacité, c'est le Provisioned Throughput et le problème, ce sont les tokens par minute, pas les dollars. Les limites de tokens et la répartition de charge par priorité entre deployments PTU et à la consommation sont ce autour de quoi les politiques d'IA d'APIM sont construites.
Cette section n'est pas une politesse. Si l'un de ces cas vous décrit, choisissez Azure AI Gateway — un client qui adopte la mauvaise couche sur notre conseil est pire pour nous qu'un client que nous n'avons jamais eu.
Là où les deux divergent vraiment.
- Une passerelle que vous exploitez, ou un service que vous utilisez
- La passerelle d'IA d'Azure, c'est API Management : une instance dans votre abonnement, au niveau de service que vous choisissez, configurée avec des politiques XML et exploitée par votre équipe plateforme — Foundry crée par défaut une instance Basic v2 et recommande Standard v2 ou Premium v2 pour la production. C'est la bonne forme pour une entreprise qui exploite déjà APIM et dispose des personnes pour cela. Les offres d'INFRO sont hébergées, avec des budgets, des routes, des listes d'autorisation et un journal d'audit configurés dans une console ou via son API de gestion, et rien à déployer ; un accord Enterprise peut en revanche l'installer dans votre propre infrastructure.
- Tokens, ou dollars
- La politique llm-token-limit d'APIM limite les tokens : un débit par minute, un quota par heure, jour, semaine, mois ou année, ou les deux, indexé par abonnement, adresse IP ou toute expression, avec une réponse 429 ou 403. Les tokens sont la bonne unité pour partager la capacité d'un deployment. Ils sont la mauvaise unité pour un budget, car un token sur un modèle et un token sur un autre diffèrent de prix de plusieurs ordres de grandeur, et un quota écrit en tokens doit être réécrit chaque fois qu'une équipe change de modèle. Les budgets d'INFRO sont en dollars de coût fournisseur estimé — à vos tarifs négociés à partir de l'offre Team — au niveau de l'organisation, du projet, du membre et de la clé, vérifiés avant l'appel au fournisseur et refusés avec 402 quand il n'y a plus de marge.
- Le coût comme enregistrement, pas comme métrique à construire
- APIM envoie le nombre de tokens à Azure Monitor et Application Insights avec les dimensions que vous ajoutez, et journalise les prompts et les complétions si vous l'activez. Transformer cela en coût par équipe suppose de tarifer vous-même les tokens. INFRO tarife chaque requête au moment de son enregistrement, indique quel tarif a servi — votre tarif négocié, le tarif public de l'éditeur ou sans tarif — et l'attribue à un projet, une clé, un modèle, une route ou un utilisateur final. Avec l'offre Business, l'estimation du mois est comparée aux API de coûts d'OpenAI et d'Anthropic et l'écart est indiqué.
- Pas l'un ou l'autre
- Azure OpenAI fait partie des types de fournisseurs qu'INFRO connecte, via les deployments de votre ressource et sa propre clé. Une entreprise peut garder APIM devant son parc Azure et utiliser INFRO pour les budgets, l'attribution et la piste d'audit sur ce parc comme sur les contrats directs avec les fournisseurs qui l'accompagnent.
Côte à côte.
Notre colonne a aussi des tirets. Un comparatif où un côté n'a que des coches, personne n'y croit, et à raison.
| Fonctionnalité | Azure AI Gateway | INFRO |
|---|---|---|
| Une API pour de nombreux fournisseurs | ouiFoundry, Azure OpenAI, API de style OpenAI, Anthropic et Vertex | ouitout ce que servent vos fournisseurs connectés |
| Rien à déployer ni à exploiter | nonune instance API Management dans votre abonnement | ouiservice hébergé |
| Limites en tokens | ouipar minute et par période, par n'importe quelle clé | nonlimites de débit de requêtes par clé à la place |
| Des budgets en dollars qui refusent une requête | nonquotas de tokens uniquement | ouiorganisation, projet, membre, clé ; 402 |
| Coût par requête, attribué | partielmétriques de tokens par dimension personnalisée | ouiprojet, clé, modèle, route, utilisateur final |
| Cache de réponses | ouisémantique, avec Azure Managed Redis | partielcorrespondance exacte, complétions de chat uniquement |
| Sécurité du contenu | ouiPolitique Azure AI Content Safety | partielmotifs plus contrôles par classificateur facultatifs ; complétions de chat ; offre Business |
| Répartition de charge et basculement | ouipondéré, priorité, disjoncteur | ouiroutes par priorité ou pondérées, toute modalité |
| Politique programmable | ouiExpressions de politique APIM | nondes fonctionnalités configurées, pas un langage de politiques |
| Serveurs MCP et API d'agents | ouiMCP et A2A | partielPasserelle MCP, offre Business |
| Disponible aujourd'hui | oui | ouiinscription en libre-service |
Notre lecture de la documentation publique de chaque produit au octobre 2026. Nous ne citons pas les prix des concurrents — ils changent, et un chiffre faux sur l'activité de quelqu'un d'autre est pire que pas de chiffre. Une ligne vous semble fausse ? Dites-le-nous et nous la corrigerons.
Évaluez ce que vaut la différence
Estimez ce que coûte votre combinaison actuelle de modèles aux tarifs publics de vos fournisseurs et l'offre nécessaire, ou laissez-nous lire votre utilisation réelle pour vous dire où nous aiderions et où nous n'aiderions pas.
Déjà sur Azure AI Gateway ? Lisez le guide de migration depuis Azure OpenAI : le code qui change, ce qui est conservé et ce qui ne l'est pas.