Gateway LLM open source che ospiti tu

INFRO vs LiteLLM

LiteLLM è uno dei gateway LLM open source più diffusi: un SDK Python e un proxy self-hosted compatibile con OpenAI che raggiunge più di 100 provider, con chiavi virtuali, budget per chiave, utente, team e utente finale, bilanciamento del carico e fallback, monitoraggio della spesa, caching, integrazioni di guardrail e callback di logging. Il nucleo ha licenza MIT; le organizzazioni, i log di audit e alcuni controlli di amministrazione sono sotto una licenza enterprise commerciale. Se vuoi gestire il gateway da solo, è la scelta predefinita e se l'è guadagnata.

Di INFRO Editorial

Ultimo controllo October 24, 2026

Quando LiteLLM è la scelta migliore

Vuoi gestire il gateway nella tua infrastruttura alle tue condizioni, senza accordi con un vendor. LiteLLM è costruito per essere ospitato da chiunque; i deployment self-hosted e ibridi di INFRO arrivano solo con un accordo enterprise.
Vuoi codice open source che puoi leggere, correggere e forkare, senza abbonamento per il nucleo.
Ti serve un provider che INFRO non collega. Il loro catalogo di più di 100 provider è molto più ampio del nostro elenco di tipi di provider.
La gestione dei prompt, la cache semantica o uno specifico vendor di guardrail (Presidio, Lakera, Bedrock Guardrails e altri) fanno parte del requisito. INFRO non ha gestione dei prompt e i suoi guardrail sono controlli a pattern per PII, segreti e i tuoi termini sui chat completions, più controlli tramite classificatore solo sui prompt sulla tua connessione a un modello decisionale, nel piano Business.
Chiami i modelli da Python e vuoi il routing in-process, come libreria, senza alcun passaggio da un gateway.

Questa sezione non è una cortesia. Se una di queste situazioni ti descrive, scegli LiteLLM: un cliente che adotta il livello sbagliato su nostro consiglio è peggio per noi di uno che non abbiamo mai avuto.

Dove i due divergono davvero.

Software che gestisci tu, o un servizio che usi: Il proxy LiteLLM lo gestisci tu. Chiavi virtuali e monitoraggio della spesa richiedono un database Postgres; oltre una singola istanza, limiti condivisi e stato del router richiedono Redis, altrimenti ogni istanza applica i propri limiti per conto suo. Aggiornamenti, scalabilità, backup e reperibilità fanno parte dell'adozione: adatto a un team di piattaforma che già gestisce questo tipo di servizio e lavoro vero per chi non lo fa. I piani di INFRO sono ospitati: non c'è nulla da distribuire. Il compromesso è speculare: le tue richieste passano attraverso il nostro servizio e non il tuo. Un accordo enterprise può invece installare INFRO nella tua infrastruttura; senza, è proprio il caso in cui LiteLLM è la scelta migliore.
Dove risiedono i controlli dell'organizzazione: In LiteLLM, le organizzazioni e i relativi ruoli di amministrazione, i log di audit e il single sign-on oltre i cinque utenti sono funzioni della licenza enterprise. In INFRO, progetti, ambienti, cinque ruoli, allowlist dei modelli a livello di organizzazione, progetto e chiave, budget e un log di audit di chi ha cambiato quale policy sono presenti in ogni piano, compreso quello di ingresso. SSO SAML/OIDC e SCIM sono inclusi nel piano Business; sono nuovi e non hanno ancora funzionato in produzione con il provider di identità di un cliente, quindi configuriamo la prima connessione insieme a te.
Costo stimato, e poi il dato del provider: Entrambi i prodotti stimano il costo di ogni richiesta da una tabella dei prezzi ed entrambi accettano le tue tariffe. LiteLLM documenta come in arrivo in una prossima versione un controllo della sua spesa rispetto alla Costs API di OpenAI. Nel piano Business INFRO verifica la stima del mese con le API dei costi di OpenAI e Anthropic e indica lo scostamento invece di presumere che non ce ne sia.
Non è o l'uno o l'altro: Un proxy LiteLLM che già usi parla l'API di OpenAI, quindi può essere collegato a INFRO come endpoint compatibile con OpenAI: tienilo per i provider che raggiunge solo lui e metti i budget, l'attribuzione e l'audit trail di INFRO davanti a tutto il patrimonio.

Quanto costa il gateway a $2K, $20K e $60K al mese.

LiteLLM non fa pagare nulla per il suo gateway con licenza MIT; quello che ti costa sono i server, il database Postgres e le persone che lo tengono in funzione, cosa che nessuna tabella può quantificare al posto tuo. INFRO è un piano fisso in base al volume di richieste.

Spesa mensile per i modelli	$2,000	$20,000	$60,000
LiteLLM, self-hostedNessuna licenza; server, Postgres e reperibilità sono a parte e qui non sono conteggiati	$0solo licenza	$0solo licenza	$0solo licenza
INFROPiano fisso in base al volume di richieste, 0% di ricarico	$35Developer, 100K richieste	$199Team, 1M richieste	$599Business, 3M richieste

Solo la commissione del gateway. La spesa per i modelli è la stessa in ogni riga e non è inclusa. Il piano INFRO segue le richieste, non la spesa, quindi la riga INFRO ipotizza in media $0.02 di spesa per i modelli per richiesta (100K, 1M, 3M richieste). È un esempio, non una media misurata. Fatturazione mensile; i piani annuali costano meno al mese. Inserisci i tuoi numeri nel calcolatore del costo del gateway.

Dove LiteLLM costa meno: LiteLLM, self-hosted a $2,000 al mese ($0 contro INFRO Developer a $35); LiteLLM, self-hosted a $20,000 al mese ($0 contro INFRO Team a $199); LiteLLM, self-hosted a $60,000 al mese ($0 contro INFRO Business a $599).

Cosa serve per passare da LiteLLM.

01I client mantengono l'SDK OpenAI: cambia l'URL di base dal tuo proxy LiteLLM a https://api.infro.io/v1 e usa una chiave del gateway INFRO.
02Ogni provider nella tua model_list di LiteLLM diventa un account del provider collegato in INFRO; gli alias dei modelli diventano id vendor/model o route con nome.
03Le chiavi virtuali diventano chiavi del gateway con i propri limiti di spesa, provider e modelli consentiti; i team corrispondono ai progetti, i budget per utente ai tetti per cliente finale (piano Team).
04Le impostazioni del router (fallback, nuovi tentativi, bilanciamento del carico) diventano le destinazioni e le regole di errore di una route.
05Tutto ciò che si basa sull'SDK Python di LiteLLM nello stesso processo resta com'è, oppure chiama INFRO come qualsiasi endpoint compatibile con OpenAI. Puoi anche tenere il proxy e collegarlo a INFRO come provider compatibile con OpenAI.

Fianco a fianco.

Anche la nostra colonna ha dei trattini. Un confronto in cui una parte ha solo spunte non lo crede nessuno, e a ragione.

Funzionalità	LiteLLM	INFRO
Un'unica API su molti provider	sìoltre 100 provider	sìi provider che colleghi
Routing, retry e failover	sì	sì
I tuoi account dei provider	sìlo esegui tu con le tue chiavi	sìcollegati per ambiente
Self-hosting e open source	sìNucleo MIT	parzialeself-hosted tramite accordo; gateway non open source
Niente da installare o gestire	noPostgres; Redis oltre una singola istanza	sìservizio ospitato
Budget per chiave, utente, team e utente finale	sì	sì
Costo per richiesta alle tue tariffe	sìprezzi su misura	sìtariffe negoziate dal piano Team in su
Riconciliazione con la fattura del provider	parzialeSolo OpenAI, annunciato per una prossima versione	parzialeOpenAI e Anthropic, piano Business; scarto indicato
Guardrail e mascheramento dei PII	sìmolte integrazioni	parzialepattern sulla chat più classificatori dei prompt; piano Business
Gestione dei prompt	sì	nonon realizzato
Ruoli dell'organizzazione e log di audit	parzialelicenza enterprise	sìogni piano
Immagini, video e audio	sì	sì
Disponibile oggi	sì	sìregistrazione self-service

La nostra lettura della documentazione pubblica di ciascun prodotto al ottobre 2026. Non citiamo i prezzi dei concorrenti: cambiano e un numero sbagliato sull'attività di qualcun altro è peggio di nessun numero. Pensi che una riga sia sbagliata? Dicci e la correggeremo.

Calcola quanto vale la differenza

Stima quanto costa il tuo attuale mix di modelli ai prezzi di listino dei tuoi provider e il piano necessario, oppure lascia che leggiamo il tuo utilizzo reale e ti diciamo dove potremmo aiutarti e dove no.

Valorizza il tuo carico di lavoro Stima gratuita dei costi

Usi già LiteLLM? Leggi la guida alla migrazione da LiteLLM: il codice che cambia, cosa si mantiene e cosa no.

Valuti più di due opzioni? Confronta tutte le alternative a LiteLLM, con indicato quando ciascuna è la scelta migliore.

Fonti

Ogni dato su LiteLLM in questa pagina proviene dalle sue stesse pagine, aperte alla data indicata.

1.litellm.ai (si apre in una nuova scheda) — verificato il Oct 24, 2026. The LiteLLM gateway is MIT licensed and free to self-host. LiteLLM describes itself as open source and self-hosted, deployed into your own cloud; no LiteLLM-run hosted service was listed on its site or docs.
2.docs.litellm.ai/docs/simple_proxy (si apre in una nuova scheda) — verificato il Oct 24, 2026. The LiteLLM gateway is a self-hosted server started with Docker, Helm or Terraform, backed by a Postgres database you run. LiteLLM records the cost of each request and shows spend per key, team, user and tag; each key carries a team, a budget and a model list.
3.docs.litellm.ai/docs/enterprise (si apre in una nuova scheda) — verificato il Oct 24, 2026. LiteLLM's SSO is free for up to 5 users; more needs an Enterprise license. LiteLLM Enterprise is a license key on the same image, priced by deployment size and usage; no price is published.
4.docs.litellm.ai/blog/security-update-march-2026 (si apre in una nuova scheda) — verificato il Oct 24, 2026. On 24 March 2026, litellm 1.82.7 and 1.82.8 on PyPI carried credential-stealing code for about 40 minutes; LiteLLM says the official Proxy Docker image was not affected and 1.83.0 is clean.