Vai al contenuto

Provider

Collega gli account che già paghi.

INFRO esegue le tue richieste sui tuoi account dei provider. Mantieni i contratti, i prezzi negoziati, le quote e le fatture, e il gateway aggiunge intorno routing, failover, trace delle richieste, attribuzione dei costi e policy. Non prende alcuna parte di ciò che paghi a un vendor.

Gli account INFRO sono self-service. Il catalogo, la documentazione e il contratto dell'API sono pubblici, il gateway è in produzione e tutto ciò che va oltre la v1 è indicato come "Più avanti". Piani e prova

I tuoi account dei provider.Le tue regole di routing.

Collega i provider che la tua organizzazione usa. Scegli i modelli direttamente o invia le richieste tramite una route che configuri tu.

Connessioni ai provider

Dati di esempio

Gli account dei provider della tua organizzazione.

ProviderCredenzialeStato
OpenAIopenai-prodCredenziale che termina con a3f2Collegato
Anthropicanthropic-prodCredenziale che termina con 7c9dCollegato
Googlegoogle-prodCredenziale che termina con e8b1Collegato
Le credenziali sono sigillate e non vengono mai mostrate per intero.

Route di produzione

Dati di esempio

L'ordine in cui una richiesta prova i tuoi provider.

  1. 1. PrincipaleOpenAIopenai-prod
  2. 2. Fallback 1Anthropicanthropic-prod
  3. 3. Fallback 2Googlegoogle-prod

Le richieste provano prima OpenAI. Se fallisce con un errore idoneo o un timeout prima che la risposta inizi, la richiesta passa ad Anthropic, poi a Google.

Un fallback viene eseguito solo dopo un errore idoneo del provider, prima che la risposta sia iniziata.
  • Route con nome

    Usa i target che configuri tu.

  • Modello diretto

    Usa un provider collegato idoneo.

  • Nessuna connessione

    Restituisce un errore con il provider da collegare.

Una route restituisce il primo target che riesce. Un target successivo viene eseguito solo dopo un errore idoneo del provider, prima che la risposta sia iniziata: mai per aggirare un budget o una policy sui modelli.

I tuoi account. Le tue chiavi. I provider ti fatturano direttamente.

Leggi la guida alle connessioni

Provider che puoi collegare

32 tipi oggi, più qualsiasi server che parli l'API di OpenAI: vLLM self-hosted, Ollama, LiteLLM o un modello interno dietro il tuo gateway. Una connessione è una credenziale per un tipo in un ambiente, e un'organizzazione può averne diverse dello stesso tipo: account separati per staging e produzione, o due regioni Bedrock dietro una sola route.

Il selettore della console offre esattamente questo elenco. Cerca i modelli che ciascuno serve.

OpenAI

Modelli GPT, immagini, sintesi vocale e trascrizione sul tuo account OpenAI.

ServeOpenAI
ModalitàTesto, Immagine, Audio, Embedding
IncolliChiave API

Anthropic

Modelli Claude sul tuo account Anthropic.

ServeAnthropic
ModalitàTesto
IncolliChiave API

Google AI (Gemini)

Modelli Gemini tramite l'endpoint compatibile con OpenAI della Gemini API.

ServeGoogle
ModalitàTesto, Immagine, Video, Audio
IncolliChiave API

Azure OpenAI

La tua risorsa Azure OpenAI e i suoi deployment.

ServeOpenAI, Microsoft
ModalitàTesto, Immagine, Audio, Embedding
IncolliChiave API + nome della risorsa
ID dei modelliNomi dei deployment mappati per modello

AWS Bedrock

Modelli sul tuo account AWS, con una chiave API di Bedrock.

ServeOpenAI, xAI, Moonshot, MiniMax
ModalitàTesto
IncolliChiave API di Bedrock + regione
ID dei modelliQualsiasi modello sul tuo account come aws-bedrock/<model id>

Google Vertex AI

Modelli Gemini e Claude nel tuo progetto Google Cloud, con una chiave di service account.

ServeGoogle, Anthropic
ModalitàTesto, Immagine, Audio
IncolliChiave dell'account di servizio (JSON) + progetto

xAI

Modelli Grok sul tuo account xAI.

ServexAI
ModalitàTesto, Audio, Video
IncolliChiave API

Mistral

Modelli Mistral sul tuo account Mistral.

ServeMistral, Z.ai
ModalitàTesto, Audio, Embedding
IncolliChiave API
ID dei modelliQualsiasi modello sul tuo account come mistral/<model id>

Cohere

Modelli Command tramite l'endpoint compatibile con OpenAI di Cohere.

ServeCohere
ModalitàTesto
IncolliChiave API
ID dei modelliQualsiasi modello sul tuo account come cohere/<model id>

Groq

Modelli open-weight serviti su hardware Groq, sul tuo account Groq.

ServeOpenAI, Qwen, Canopy Labs
ModalitàTesto, Audio
IncolliChiave API
ID dei modelliQualsiasi modello sul tuo account come groq/<model id>

Together AI

Modelli open-weight sul tuo account Together.

ServeMeta, Mistral, DeepSeek, Qwen, Alibaba, Moonshot, Z.ai, MiniMax, OpenAI, Google, thinkingmachines, Black Forest Labs, Ideogram, Kokoro (hexgrad), Canopy Labs, Cartesia, NVIDIA
ModalitàTesto, Immagine, Audio
IncolliChiave API
ID dei modelliQualsiasi modello sul tuo account come together/<model id>

Fireworks AI

Modelli open-weight sul tuo account Fireworks.

ServeMeta, Mistral, DeepSeek, Qwen, Alibaba, Moonshot, Z.ai, MiniMax, OpenAI, thinkingmachines, fireworks, NVIDIA
ModalitàTesto
IncolliChiave API
ID dei modelliQualsiasi modello sul tuo account come fireworks/<model id>

DeepSeek

Modelli DeepSeek sul tuo account DeepSeek.

ServeDeepSeek
ModalitàTesto
IncolliChiave API

OpenRouter

Qualsiasi modello elencato da OpenRouter, sul tuo account OpenRouter.

ServeQualsiasi modello servito dal provider
ModalitàTesto, Immagine, Audio, Video
IncolliChiave API

Runway

Runway Gen-4.5 e i modelli video serviti da Runway, sul tuo account Runway API.

ServeRunway, Google, ByteDance, MiniMax, Alibaba, xAI, Magnific, ElevenLabs
ModalitàVideo, Immagine, Audio
IncolliChiave API

KIE

Chat Claude, GPT, Grok, Gemini e Kimi, e media Nano Banana, GPT Image, Seedream e Seedance, sul tuo account KIE.

ServeAnthropic, OpenAI, xAI, Google, Moonshot, DeepSeek, ByteDance
ModalitàTesto, Immagine, Video
IncolliChiave API

LaoZhang API

Chat GPT, Gemini, Grok, DeepSeek, Kimi, GLM e MiniMax, più modelli di immagini e video Seedance e Wan, sul tuo account LaoZhang.

ServeOpenAI, Google, xAI, DeepSeek, Moonshot, Z.ai, MiniMax, Qwen, Black Forest Labs, ByteDance, Alibaba
ModalitàTesto, Immagine, Video, Audio
IncolliChiave API
ID dei modelliQualsiasi modello sul tuo account come laozhang/<model id>

TypeSafe

Decisioni strutturate Jev (scelta, punteggio, sì/no) sul tuo account TypeSafe.

ServeTypeSafe
ModalitàTesto
IncolliChiave API
ID dei modelliQualsiasi modello sul tuo account come typesafe/<model id>

Cloudflare Workers AI

Decisioni Clef (sì o no, scelta, punteggio) sul tuo account Cloudflare.

ServeCloudflare
ModalitàTesto
IncolliChiave API

Inception

Decisioni Mercury Decide (sì o no, scelta, punteggio) sul tuo account Inception.

ServeInception
ModalitàTesto
IncolliChiave API

Liquid AI

Decisioni d1 (sì o no, scelta, punteggio) sul tuo account Liquid AI.

ServeLiquid AI
ModalitàTesto
IncolliChiave API

Upstage

Decisioni Solar Decide (sì o no, scelta, punteggio) sul tuo account Upstage.

ServeUpstage
ModalitàTesto
IncolliChiave API

Moonshot AI (Kimi)

Modelli Kimi sul tuo account Moonshot AI.

ServeMoonshot
ModalitàTesto
IncolliChiave API

Z.ai (GLM)

Modelli GLM sul tuo account Z.ai.

ServeZ.ai
ModalitàTesto
IncolliChiave API

MiniMax

Modelli MiniMax della serie M sul tuo account MiniMax.

ServeMiniMax
ModalitàTesto, Audio, Video
IncolliChiave API
ID dei modelliQualsiasi modello sul tuo account come minimax/<model id>

Alibaba Cloud Model Studio

Modelli Qwen sul tuo account Alibaba Cloud Model Studio.

ServeQwen, Alibaba
ModalitàTesto, Video
IncolliChiave API
ID dei modelliQualsiasi modello sul tuo account come alibaba/<model id>

Cerebras

Modelli open-weight serviti su hardware Cerebras, sul tuo account Cerebras.

ServeOpenAI, Qwen
ModalitàTesto
IncolliChiave API
ID dei modelliQualsiasi modello sul tuo account come cerebras/<model id>

Perplexity

Modelli Sonar basati sulla ricerca sul tuo account Perplexity.

ServePerplexity
ModalitàTesto
IncolliChiave API

ElevenLabs

Voci ElevenLabs e trascrizione Scribe sul tuo account ElevenLabs.

ServeElevenLabs
ModalitàAudio
IncolliChiave API

fal.ai

Modelli di immagini e video di molti vendor sul tuo account fal.ai.

ServeGoogle, Kuaishou (Kling), ByteDance, Alibaba, PixVerse, Black Forest Labs, Ideogram, Recraft, Qwen, luma, xAI, OpenAI, Topaz Labs, Sync, ElevenLabs, MMAudio, MiniMax, Stability AI, bria, iclight, clarity, fal
ModalitàImmagine, Video, Audio
IncolliChiave API

Replicate

Modelli ufficiali di immagini e video sul tuo account Replicate.

ServeGoogle, Kuaishou (Kling), ByteDance, Alibaba, PixVerse, Black Forest Labs, Ideogram, Recraft, luma, xAI, OpenAI, Runway, Qwen, Topaz Labs, Real-ESRGAN, Sync, ElevenLabs, MiniMax, Stability AI, bria
ModalitàImmagine, Video, Audio
IncolliChiave API

Sync

Modelli di lip-sync sul tuo account Sync.

ServeSync
ModalitàVideo
IncolliChiave API

Endpoint compatibile con OpenAI

Un server self-hosted o interno che parla l'API di OpenAI: vLLM, Ollama, LiteLLM, TGI o il tuo.

ServeQualsiasi modello servito dal provider
ModalitàTesto, Immagine, Audio, Embedding
IncolliURL di base, chiave facoltativa
ID dei modelliQualsiasi modello sul tuo account come openai-compatible/<model id>

Cosa succede alla credenziale

Affidare una chiave del provider a terzi è la parte del BYOK che merita attenzione, quindi eccola per intero.

Sigillata prima del salvataggio

AES-256-GCM con una chiave che non si trova nel database, con la tua organizzazione e quella connessione vincolate all'interno: un valore sigillato copiato in un'altra riga o in un altro tenant non si apre, invece di autenticarsi come te.

Solo scrittura, senza possibilità di rivelarla

Nulla restituisce la credenziale dopo il salvataggio. La console mostra gli ultimi quattro caratteri per distinguere due chiavi, e offre sostituzione e revoca. Non c'è alcun pulsante che la mostri, per nessuno, noi compresi.

Le tue applicazioni non la portano mai con sé

Si autenticano su INFRO con una chiave del gateway con ambito, a cui puoi applicare limiti di frequenza, restringere a un progetto o ambiente e revocare singolarmente. La credenziale del provider smette di essere copiata in ogni servizio e ogni laptop.

Usata per le tue richieste, e per nient'altro

INFRO invia richieste a questo provider per tuo conto usando questa chiave e legge l'utilizzo che riporta. Non legge mai il tuo account del provider, la tua fatturazione né nient'altro.

Andarsene funziona come arrivare: revoca la connessione, rimetti nella tua applicazione l'URL di base del provider, e i tuoi account continuano intatti: sono sempre stati tuoi. Trust Center · Subresponsabili

Un provider non in elenco

Se parla l'API di OpenAI (vLLM self-hosted, Ollama, LiteLLM o un modello interno dietro il tuo gateway), collegalo oggi come endpoint compatibile con OpenAI: il suo URL di base HTTPS, una chiave se serve e i modelli che vuoi instradare. Le tue applicazioni li chiamano poi tramite INFRO come qualsiasi altra connessione, sul tuo account. Per un provider con un formato API proprio, scrivi a support@infro.io quale usi.

Provider Program

Gestisci un'API AI?Fai integrare INFRO.

Candidati in circa cinque minuti. Un ingegnere esamina la tua API, poi costruiamo e verifichiamo l'integrazione. I team collegano il proprio account presso di te e continuano a pagarti direttamente.

  • Una pagina Connect e un pulsante Connect to INFROPer la tua documentazione. Chi legge arriva nella configurazione con la tua API già scelta.
  • Il marchio INFRO VerifiedDatato all'ultima esecuzione superata della nostra suite sulla tua API in produzione. Mai in vendita.
  • Una pagina privata per la tua candidaturaA che punto è, cosa ci serve dopo e un modo sicuro per inviare l'accesso di prova.
  • Un canale verso i clienti di INFRODeprecazioni, incidenti e nuovi modelli, inoltrati ai team che usano la tua API.
docs.example.com/integrations/infro

Docs / Integrazioni

Usa il tuo account con INFRO

Instrada, imposta budget e traccia le tue richieste alla nostra API tramite INFRO, con una chiave del tuo account presso di noi.

Connect to INFRO
Una pagina di documentazione di esempio su docs.example.com con il pulsante Connect to INFRO. Il pulsante rimanda alla pagina Connect del provider su infro.io, dove la configurazione si apre con l'API di quel provider già scelta.
  1. Passaggio 1: CandidatiCirca cinque minuti, da un indirizzo aziendale.
  2. Passaggio 2: RevisioneUn ingegnere legge ogni candidatura.
  3. Passaggio 3: Accesso di provaUna chiave di prova, tramite la tua pagina privata.
  4. Passaggio 4: Integra e verificaAdapter, mappatura dei modelli, test, un'esecuzione in produzione.
  5. Passaggio 5: AttivoLe tue pagine vanno online; tu ricevi il pulsante.
  • Nessun costo di adesione
  • Nessuna condivisione dei ricavi
  • Nessun pagamento per segnalazioni
  • Nessun posizionamento a pagamento
  • Non cambia mai il routing