Vai al contenuto

Guide alla migrazioneDa Vercel AI Gateway

Da Vercel AI Gateway, con gli stessi id dei modelli

Vercel AI Gateway è il provider predefinito nell'AI SDK: una stringa di modello come openai/gpt-6-astra lo raggiunge con una chiave Vercel o un token OIDC, servita sulle credenziali di sistema di Vercel o sulle tue chiavi. INFRO usa gli stessi id vendor/model, quindi la modifica riguarda il provider e le opzioni, non i nomi dei modelli.

Disponibile per tutti su ogni piano Vercel; documentazione aggiornata fino al 2026-10-07

Gli account INFRO sono self-service. Il catalogo, la documentazione e il contratto dell'API sono pubblici, il gateway è in produzione e tutto ciò che va oltre la v1 è indicato come "Più avanti". Piani e prova

A che punto siamo

A che punto è

Un prodotto Vercel attivo su ogni piano. Le regole di routing del team su quali modelli si possono usare sono state rilasciate il 2026-07-02.

Su quale account viene servita la richiesta

Per impostazione predefinita le credenziali di sistema di Vercel, pagate con i crediti di AI Gateway. Con BYOK, la documentazione di Vercel dice che una richiesta fallita sulle tue credenziali viene ritentata sulle sue credenziali di sistema e addebitata ai crediti, e la spesa BYOK non viene conteggiata nei budget.

Cosa INFRO non copia

INFRO non implementa il protocollo AI Gateway: il provider gateway dell'AI SDK non può puntare a INFRO. Passi a un provider compatibile con OpenAI, incluso nell'AI SDK.

Se la tua app gira su Vercel e il gateway fa il suo lavoro, l'integrazione è difficile da battere. Resta se una di queste condizioni è vera.

  • Ti autentichi con token OIDC di Vercel dai tuoi deployment e non vuoi alcuna chiave del gateway. INFRO accetta solo le proprie chiavi.
  • Usi Realtime, embedding di altri provider o le funzionalità dell'AI SDK disponibili solo con il gateway. INFRO serve embedding su connessioni OpenAI, Azure OpenAI, Mistral e compatibili con OpenAI, e nessun Realtime.
  • Vuoi scegliere il provider in base a costo, tempo al primo token o throughput (sort). INFRO non ha ordinamento per richiesta.
  • Vuoi accesso ai modelli senza un account presso ogni provider. INFRO gira solo su account che detieni tu.
  • Ti serve il routing zero-data-retention o inferenceRegion per richiesta. INFRO non ha nessuno dei due; la residenza dei dati è nella roadmap.

Le modifiche, una riga ciascuna. Tutto ciò che non è elencato qui resta com'è.

 Vercel AI GatewayINFRO
URL di basehttps://ai-gateway.vercel.sh/v1, o il provider gateway predefinito dell'AI SDK.https://api.infro.io/v1, tramite createOpenAI({ baseURL }) nell'AI SDK.
ChiaveAI_GATEWAY_API_KEY o un token OIDC di Vercel.INFRO_API_KEY, una chiave del gateway INFRO. Le tue credenziali dei provider passano in INFRO come connessioni.
Id del modelloanthropic/claude-opus-5anthropic/claude-opus-5, invariato. Nell'AI SDK, chiama infro.chat(id): la funzione chiamabile diretta del provider punta alla Responses API.
OpzioniproviderOptions.gateway { order, only, models, user, tags }, header ai-reporting-*.Una route per l'ordine, routing.providers per only, fallbacks per i modelli, metadata { user_id, tags } per utente e tag.

Prima · Vercel AI Gateway

import { generateText } from "ai";

const { text } = await generateText({
  model: "anthropic/claude-opus-5",
  prompt: "Hello",
  providerOptions: {
    gateway: {
      order: ["vertex", "anthropic"],
      user: "user_123",
      tags: ["feature:chat"],
    },
  },
});

Dopo · INFRO

import { createOpenAI } from "@ai-sdk/openai";
import { generateText } from "ai";

const infro = createOpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

const { text } = await generateText({
  // A route named "chat" holds the order: Vertex, then Anthropic.
  model: infro.chat("chat"),
  prompt: "Hello",
  headers: { "X-INFRO-User-Id": "user_123", "X-INFRO-Feature": "chat" },
});

`.chat()`, non la funzione chiamabile diretta

createOpenAI(...)(id) punta alla Responses API di OpenAI. Usa infro.chat(id) per Chat Completions, servito da ogni connessione INFRO; anche /v1/responses è servito, ma richiede l'intera conversazione a ogni turno.

Gli slug dei provider sono diversi

vertex e bedrock di Vercel sono google-vertex e aws-bedrock di INFRO in routing.providers. L'ordine si imposta su una route nella console, non per richiesta.

I budget vedono ogni richiesta

Ogni richiesta INFRO gira sul tuo account, quindi ogni richiesta conta nei tuoi budget. Un budget rifiuta al raggiungimento del tetto con 402 budget_exceeded.

Gli oggetti di Vercel AI Gateway a confronto con quelli di INFRO, dalla documentazione pubblica di Vercel AI Gateway letta il 19 ottobre 2026 e verificati con ciò che il gateway implementa. Due righe dicono che INFRO non ha nulla.

Vercel AI GatewayCosa fa lìIn INFRO
Chiavi API e OIDC di AI GatewaydiversoChiavi di team o token OIDC di Vercel; le chiavi hanno un budget e una scadenza.Chiavi del gateway con limite di spesa, lista di autorizzazione dei modelli, elenco dei provider, intervalli IP e ambiente, ruotate o disattivate. Nessuno scambio di token OIDC.
Credenziali di sistema e BYOKdiversoPer impostazione predefinita gli account dei provider di Vercel; le tue credenziali sono facoltative, con fallback sulle credenziali di sistema.Solo le tue connessioni, mai un pool condiviso. Ogni provider ti fattura direttamente.
`order`, `only`diversoProvare i provider in ordine, o limitarsi ad alcuni, per richiesta.Una route contiene l'ordine e le regole di errore; routing.providers restringe per singola richiesta.
`sort` per costo, TTFT, TPSnienteScegliere un provider per richiesta in base a costo o velocità.Nulla. Decidono l'ordine o i pesi di una route.
Fallback dei modellistessa formamodels, provati in ordine.fallbacks, fino a 5.
Regole di routingstessa formaRegole del team su quali modelli si possono usare.Liste di autorizzazione e blocco per organizzazione, progetto e chiave, inclusi interi vendor.
Budgetstessa formaTetti per team, progetto, chiave e utente, 402 se superati; spesa BYOK esclusa.Budget per organizzazione, progetto, membro, chiave e cliente finale, 402 prima che il provider venga chiamato; ogni richiesta conta.
Report personalizzatistessa formaUtente e tag per richiesta; un'API di report raggruppata per utente, modello, tag, provider.metadata.user_id e tags su ogni richiesta, utilizzo raggruppato per progetto, chiave, modello, utente e tag, ed esportazioni.
Prompt caching automaticodiversocaching: 'auto' aggiunge marcatori di cache del provider; header di affinità di sessione.Il prompt caching del provider funziona come il provider lo definisce; cache_control arriva ad Anthropic così com'è scritto su /v1/messages. INFRO non aggiunge marcatori. A parte, una cache delle risposte a corrispondenza esatta, opzionale.
Trace Drainsstessa formaTrace OpenTelemetry verso il tuo strumento.Span verso il tuo collector OpenTelemetry dal percorso della richiesta.
Embedding e RealtimediversoServito dal gateway.Embedding sulla tua connessione OpenAI, Azure OpenAI, Mistral o compatibile con OpenAI, con failover solo verso lo stesso modello. Realtime non è servito.
ZDR e regione di inferenzanienteRouting zero-data-retention per richiesta e inferenceRegion.Non disponibile. La conservazione presso il provider segue il tuo contratto con lui; la residenza dei dati è nella roadmap.

È la nostra lettura della documentazione pubblicata da Vercel AI Gateway, non una prova o un benchmark. Se abbiamo letto male qualcosa, diccelo e correggeremo la riga.

Cosa non fa INFRO

  • Implementare il protocollo AI Gateway o il provider gateway dell'AI SDK.
  • Accettare token OIDC di Vercel.
  • Servire Realtime, o embedding su provider diversi da OpenAI, Azure OpenAI, Mistral o un endpoint compatibile con OpenAI.
  • Ordinare i provider per richiesta in base a costo o velocità.
  • Fornire accesso ai modelli senza i tuoi account dei provider.

Cosa non si porta con sé

  • Log delle richieste e report personalizzati. Non c'è uno strumento di importazione.
  • Crediti di AI Gateway. Restano a Vercel.
  • Budget e regole di routing. Ricreali come budget e liste di autorizzazione INFRO.

Domande

Devo cambiare gli id dei modelli?
No. Entrambi usano vendor/model, per esempio anthropic/claude-opus-5. Controlla GET /v1/models per sapere cosa servono le tue connessioni INFRO.
L'AI SDK funziona con INFRO?
Sì, tramite createOpenAI da @ai-sdk/openai con baseURL: https://api.infro.io/v1, chiamando infro.chat(modelId).
Chi mi fattura l'uso dei modelli?
I tuoi provider, direttamente, sui tuoi account. INFRO è un abbonamento con 0% di ricarico sulla spesa per i modelli.

Migra con noi, o da solo

Il programma di migrazione mappa in una call la tua configurazione Vercel AI Gateway su connessioni, route e budget di INFRO e migra con te il primo servizio. I tuoi provider continuano a fatturarti direttamente; INFRO è un abbonamento e aggiunge 0% alla spesa per i modelli.

Prova di 14 giorni Prenota una sessione di migrazioneINFRO vs Vercel AI GatewayLeggi il quickstart

Fonti

Ogni affermazione su Vercel AI Gateway in questa pagina proviene da una di queste fonti, lette il 19 ottobre 2026. Nulla è dedotto da una prova, un benchmark o una conversazione.