Gateway AI in Azure API Management e Microsoft Foundry
INFRO vs Azure AI Gateway
Il gateway AI di Azure è un insieme di funzionalità AI in Azure API Management, attivabile anche da Microsoft Foundry per i deployment di modelli lì presenti. Si pone davanti a Foundry e Azure OpenAI, alle API di altri provider con forma OpenAI, Anthropic e Vertex, ai modelli self-hosted, ai server MCP e alle API di agenti, e applica loro le policy APIM: limiti di token al minuto e quote di token per chiave, cache semantica, controlli di Azure AI Content Safety, bilanciamento del carico ponderato e per priorità con circuit breaker e metriche dei token in Azure Monitor. Per un'azienda che usa già API Management estende un gateway che il team di piattaforma gestisce oggi, ed è difficile da battere.
- Usi già Azure API Management. Il tuo traffico AI ottiene la stessa istanza, la stessa rete, la stessa identità, lo stesso portale per sviluppatori e lo stesso linguaggio di policy del resto delle tue API, gestiti dal team che già le possiede.
- Sei un'azienda nativa Azure su Foundry. Attivare il gateway dal portale Foundry dà a ogni progetto i propri limiti e quote di token su un'istanza condivisa, con identità gestita verso i modelli e nessuna chiave API da distribuire.
- Il requisito è la cache semantica. APIM restituisce risposte memorizzate per prompt simili nel significato, usando Azure Managed Redis e un deployment di embedding; la cache delle risposte di INFRO è solo a corrispondenza esatta, per i chat completions.
- Ti serve una pipeline di policy programmabile. Le policy APIM con espressioni possono trasformare, instradare e limitare in base a qualsiasi elemento della richiesta; i controlli di INFRO sono funzioni fisse configurate in una console e in un'API, non un linguaggio di policy.
- La tua capacità è Provisioned Throughput e il problema sono i token al minuto, non i dollari. I limiti di token e il bilanciamento del carico per priorità tra deployment PTU e pay-as-you-go sono ciò attorno a cui sono costruite le policy AI di APIM.
Questa sezione non è una cortesia. Se una di queste situazioni ti descrive, scegli Azure AI Gateway: un cliente che adotta il livello sbagliato su nostro consiglio è peggio per noi di uno che non abbiamo mai avuto.
Dove i due divergono davvero.
- Un gateway che gestisci tu o un servizio che usi
- Il gateway AI di Azure è API Management: un'istanza nella tua sottoscrizione, a un livello di servizio che scegli, configurata con policy XML e gestita dal tuo team di piattaforma. Foundry crea per impostazione predefinita un'istanza Basic v2 e consiglia Standard v2 o Premium v2 per la produzione. È la forma giusta per un'azienda che usa già APIM e ha le persone per gestirlo. I piani di INFRO sono ospitati, con budget, route, allowlist e un log di audit configurati in una console o tramite la sua API di gestione, e nulla da distribuire; un accordo enterprise può invece installarlo nella tua infrastruttura.
- Token o dollari
- La policy llm-token-limit di APIM limita i token: una frequenza al minuto, una quota per ora, giorno, settimana, mese o anno, oppure entrambe, con chiave per sottoscrizione, indirizzo IP o qualsiasi espressione, rispondendo 429 o 403. I token sono l'unità giusta per condividere la capacità di un deployment. Sono l'unità sbagliata per un budget, perché un token su un modello e uno su un altro differiscono nel prezzo di ordini di grandezza, e una quota scritta in token va riscritta ogni volta che un team cambia modello. I budget di INFRO sono in dollari di costo stimato del provider (alle tue tariffe negoziate dal piano Team) a livello di organizzazione, progetto, membro e chiave, verificati prima di chiamare il provider e rifiutati con 402 quando non c'è più margine.
- Il costo come registro, non come metrica da costruire
- APIM invia i conteggi dei token ad Azure Monitor e Application Insights con le dimensioni che aggiungi e, se lo attivi, registra prompt e completamenti. Trasformarli in costi per team significa prezzare i token da soli. INFRO prezza ogni richiesta quando viene registrata, indica quale tariffa ha risposto (la tua tariffa negoziata, la tariffa pubblicata dal vendor o senza prezzo) e la attribuisce a un progetto, una chiave, un modello, una route o un utente finale. Nel piano Business la stima del mese viene verificata con le API dei costi di OpenAI e Anthropic e lo scostamento viene indicato.
- Non è o l'uno o l'altro
- Azure OpenAI è uno dei tipi di provider che INFRO collega, tramite i deployment della tua risorsa e la sua chiave. Un'azienda può mantenere APIM davanti al proprio patrimonio Azure e usare INFRO per budget, attribuzione e audit trail su quel patrimonio e sui contratti diretti con i provider accanto ad esso.
Fianco a fianco.
Anche la nostra colonna ha dei trattini. Un confronto in cui una parte ha solo spunte non lo crede nessuno, e a ragione.
| Funzionalità | Azure AI Gateway | INFRO |
|---|---|---|
| Un'unica API su molti provider | sìFoundry, Azure OpenAI, API con forma OpenAI, Anthropic e Vertex | sìtutto ciò che servono i tuoi provider collegati |
| Niente da installare o gestire | noun'istanza di API Management nella tua sottoscrizione | sìservizio ospitato |
| Limiti in token | sìal minuto e per periodo, per qualsiasi chiave | nolimiti di frequenza delle richieste per chiave |
| Budget in dollari che rifiutano una richiesta | nosolo quote di token | sìorganizzazione, progetto, membro, chiave; 402 |
| Costo per richiesta, attribuito | parzialemetriche dei token per dimensione personalizzata | sìprogetto, chiave, modello, route, utente finale |
| Caching delle risposte | sìsemantica, con Azure Managed Redis | parzialecorrispondenza esatta, solo chat completions |
| Sicurezza dei contenuti | sìPolicy di Azure AI Content Safety | parzialepattern più controlli facoltativi tramite classificatore; chat completions; piano Business |
| Bilanciamento del carico e failover | sìponderato, priorità, circuit breaker | sìroute per priorità o ponderate, qualsiasi modalità |
| Policy programmabile | sìEspressioni di policy APIM | nofunzioni configurate, non un linguaggio di policy |
| Server MCP e API di agenti | sìMCP e A2A | parzialeGateway MCP, piano Business |
| Disponibile oggi | sì | sìregistrazione self-service |
La nostra lettura della documentazione pubblica di ciascun prodotto al ottobre 2026. Non citiamo i prezzi dei concorrenti: cambiano e un numero sbagliato sull'attività di qualcun altro è peggio di nessun numero. Pensi che una riga sia sbagliata? Dicci e la correggeremo.
Calcola quanto vale la differenza
Stima quanto costa il tuo attuale mix di modelli ai prezzi di listino dei tuoi provider e il piano necessario, oppure lascia che leggiamo il tuo utilizzo reale e ti diciamo dove potremmo aiutarti e dove no.
Usi già Azure AI Gateway? Leggi la guida alla migrazione da Azure OpenAI: il codice che cambia, cosa si mantiene e cosa no.