Gateway AI a confronto.

Un servizio tra la tua applicazione e i provider di modelli AI che chiama. Il tuo codice invia le richieste a un unico endpoint, e il gateway sceglie il provider, ritenta o passa a un altro quando uno non risponde, registra cosa ha fatto ogni richiesta e quanto è costata, e applica qualsiasi policy tu imposti: budget, modelli consentiti, limiti di frequenza. I prodotti differiscono soprattutto per chi detiene l'account del provider, se la policy è applicata prima della chiamata o riportata dopo, e se il gateway lo gestisci tu o il vendor.

Dipende dal prodotto, ed è la prima cosa da verificare. Alcune piattaforme acquistano l'inferenza per te da un saldo che finanzi presso di loro; altre instradano sulle tue chiavi dei provider, a volte con una commissione su quell'utilizzo; alcune offrono entrambe le cose. INFRO fa solo la seconda e non trattiene nulla: i tuoi provider ti fatturano direttamente ai tuoi prezzi, e INFRO addebita un abbonamento. La colonna Proprietà dei costi nella tabella qui sopra è la nostra lettura della documentazione di ogni prodotto.

Ti serve qualcosa nel percorso della richiesta, perché un limite può rifiutare solo una richiesta che vede prima del provider. Diversi gateway lo fanno: INFRO verifica i budget per organizzazione, progetto, membro e chiave prima della chiamata; OpenRouter, Cloudflare AI Gateway e LiteLLM documentano i propri budget o limiti di spesa. Gli strumenti di osservabilità come Langfuse registrano il costo dopo la chiamata e possono inviare avvisi, il che è utile, ma non fermano la richiesta.

Quasi tutti i prodotti in questa pagina stimano il costo per richiesta. Le domande che li distinguono sono quale prezzo usa la stima (il prezzo di listino del vendor o quello del tuo contratto), cosa succede quando un modello non ha un prezzo noto, e se il dato viene mai confrontato con la fattura del provider. INFRO usa i tuoi prezzi negoziati dal piano Team, segna una richiesta come senza prezzo anziché tirare a indovinare e, nel piano Business, confronta la stima del mese con le API dei costi di OpenAI e Anthropic.

Non sempre. Se routing e accesso ai provider sono risolti e a nessuno servono budget che rifiutano una richiesta, uno strumento di osservabilità e valutazione come Langfuse può bastare. Se ti servono routing, failover e budget applicati, ti serve un gateway; e i team che vogliono anche valutazioni approfondite e gestione dei prompt spesso usano entrambi, con il gateway che esporta le trace verso lo strumento di osservabilità.

Dalla documentazione pubblica di ogni prodotto, letta alla data indicata in ogni pagina: non da una prova né da un benchmark. Ogni pagina dice chiaramente quando l'altro prodotto è la scelta migliore, nessuna riporta il prezzo di un concorrente, e dove la documentazione è ambigua il giudizio viene attenuato anziché sostenuto. Se pensi che una riga sia sbagliata, diccelo e la correggeremo.