Vai al contenuto

Plugin AI su un gateway API

INFRO vs Kong AI Gateway

Kong AI Gateway porta il traffico AI su Kong Gateway, uno dei gateway API più diffusi: un'astrazione di modelli e provider sui principali provider, bilanciamento del carico e failover tra di essi, caching semantico, limiti di frequenza basati su token e costi, protezioni dei prompt, sanificazione delle PII, integrazioni con guardrail cloud e strumenti MCP, tutto come policy sullo stesso runtime che già trasporta le API di un'azienda. Se il tuo team di piattaforma usa Kong oggi, aggiungervi il traffico AI è una modifica di configurazione anziché un nuovo vendor, ed è una posizione forte.

Quando Kong AI Gateway è la scelta migliore
  • Usi già Kong. Le tue API, i tuoi plugin di autenticazione, la tua osservabilità e la tua reperibilità vivono già lì, e il traffico AI diventa un altro insieme di route sotto lo stesso modello operativo. Un secondo gateway davanti ai tuoi modelli sarebbe un perimetro che non ti serve.
  • Devi gestire l'intero gateway da solo: il data plane nel tuo ambiente, o sia control plane sia data plane on-premise. Kong è costruito per questo. I piani di INFRO sono ospitati; il deployment self-hosted e ibrido arriva solo con un contratto enterprise.
  • Il requisito è la profondità dei plugin. L'ecosistema di plugin di Kong (plugin personalizzati, trasformazioni di richieste e risposte, integrazioni con i guardrail cloud di AWS, Azure e Google) va molto oltre ciò che INFRO espone, e INFRO non ha alcun sistema di plugin.
  • Governi il traffico AI e il normale traffico API con un unico modello di policy, e separarli ti costerebbe in coerenza più di quanto ti darebbe in funzionalità specifiche per l'AI.

Questa sezione non è una cortesia. Se una di queste situazioni ti descrive, scegli Kong AI Gateway: un cliente che adotta il livello sbagliato su nostro consiglio è peggio per noi di uno che non abbiamo mai avuto.

Dove i due divergono davvero.

Un gateway API che ha imparato l'AI, o un piano di controllo costruito per l'AI
L'unità di Kong è la route e il plugin: le capacità AI sono policy che colleghi al traffico che passa da un gateway generico. L'unità di INFRO è l'organizzazione (progetti, ambienti, chiavi del gateway, connessioni ai provider e le persone che ne sono responsabili) e ogni richiesta porta un costo stimato del provider attribuito a un progetto, una chiave, un modello, una route o un utente finale. Sono entrambi progetti coerenti. La differenza emerge quando qualcuno al di fuori del team di piattaforma fa una domanda: un responsabile finanziario che chiede quanto è costato l'assistente di supporto il mese scorso, o un responsabile di team che chiede quali modelli il suo progetto può chiamare, ottiene una risposta nella console di INFRO senza una query sui log del gateway.
Da dove viene il dato del costo, e cosa lo verifica
Kong può applicare limiti di spesa: il suo plugin AI Rate Limiting Advanced calcola il costo dai prezzi di input e output che imposti per modello nella configurazione di AI Proxy, e restituisce 429 al limite. È un meccanismo capace, ed è un prezzo che mantieni nella configurazione del gateway. INFRO conserva il prezzo pubblicato dal vendor per ogni modello, ti permette di inserire i prezzi dei tuoi contratti dal piano Team, registra una richiesta senza prezzo noto come senza prezzo anziché gratuita e, nel piano Business, confronta la stima del mese con le API dei costi di OpenAI e Anthropic e indica lo scarto. I budget agiscono poi su quel numero a livello di organizzazione, progetto, membro e chiave.
Cosa include ogni piano
La pagina dei prezzi di Kong indica controllo degli accessi basato sui ruoli, single sign-on e log di audit come solo Enterprise; diversi plugin AI, tra cui il caching semantico, sono un add-on a pagamento nel suo piano self-service; il piano self-service limita anche quanti modelli distinti i suoi plugin AI possono fare da proxy; e il rate limiting basato sui costi è documentato come parte dell'offerta AI Gateway Enterprise. Consulta la loro pagina dei prezzi per i dettagli. In INFRO, budget, liste di autorizzazione dei modelli, log di audit e cache delle risposte sono su ogni piano, membri e ruoli dal piano Startup, prezzi negoziati e tetti per cliente finale dal Team, e single sign-on, SCIM, guardrail, gateway MCP e riconciliazione nel Business.
Non è o l'uno o l'altro
Molte aziende che usano Kong continueranno a usarlo. Il gateway di INFRO parla l'API di OpenAI, quindi una route Kong può inviare il traffico AI a INFRO come upstream: Kong mantiene il parco API e le sue policy di edge, e INFRO aggiunge dietro le connessioni ai provider, l'attribuzione dei costi, i budget e la riconciliazione. Sono due salti invece di uno, che è un costo reale, e se valga la pena pagarlo dipende da quanto ti serve della seconda lista.

Fianco a fianco.

Anche la nostra colonna ha dei trattini. Un confronto in cui una parte ha solo spunte non lo crede nessuno, e a ragione.

FunzionalitàKong AI GatewayINFRO
Un'unica API su molti providersìentità modello e providersìi provider che colleghi
Routing, retry e failoversìbilanciamento del carico tra providersì
I tuoi account dei providersìcredenziali nella configurazione del gatewaysìcollegati per ambiente
Immagini, video e audiosìroute per immagini, sintesi vocale, trascrizione e videosìuna sola forma di richiesta ciascuno
Self-hostingsìibrido o completamente self-hostedparzialecontratto enterprise
Ecosistema di plugin e plugin personalizzatisìla loro specialitànonessun sistema di plugin
Guardrail e oscuramento delle PIIsìguard sui prompt, sanitizzatore di PII, guardrail del cloudparzialepattern sulla chat più classificatori dei prompt; piano Business
Caching delle rispostesìcache semantica; componente aggiuntivo a pagamento su Plusparzialecorrispondenza esatta, chat completion; ogni piano
Limiti di spesa in dollari che rifiutano una richiestaparzialelimiti di frequenza in modalità costo; AI Gateway Enterprisesì402; organizzazione, progetto, membro, chiave; ogni piano
Stime ai tuoi prezzi negoziatiparzialecosto per modello nella configurazione del pluginsìarchiviate per organizzazione; piano Team
Riconciliazione con la fattura del providernoparzialeOpenAI e Anthropic, piano Business; scarto indicato
Ruoli, SSO e log di auditparzialePiano Enterprisesìaudit su ogni piano; SSO e SCIM nel Business
Disponibile oggisìsìregistrazione self-service

La nostra lettura della documentazione pubblica di ciascun prodotto al ottobre 2026. Non citiamo i prezzi dei concorrenti: cambiano e un numero sbagliato sull'attività di qualcun altro è peggio di nessun numero. Pensi che una riga sia sbagliata? Dicci e la correggeremo.

Calcola quanto vale la differenza

Stima quanto costa il tuo attuale mix di modelli ai prezzi di listino dei tuoi provider e il piano necessario, oppure lascia che leggiamo il tuo utilizzo reale e ti diciamo dove potremmo aiutarti e dove no.

Usi già Kong AI Gateway? Leggi la guida alla migrazione da Kong AI Gateway: il codice che cambia, cosa si mantiene e cosa no.