Naar de inhoud

MigratiegidsenVanaf Vercel AI Gateway

Vanaf Vercel AI Gateway, model-ID's ongewijzigd

Vercel AI Gateway is de standaardprovider in de AI SDK: een modelnaam zoals openai/gpt-6-astra bereikt hem met een Vercel-sleutel of OIDC-token, bediend op de systeemcredentials van Vercel of op je eigen sleutels. INFRO gebruikt dezelfde vendor/model-ID's, dus de wijziging zit in de provider en de opties, niet in de modelnamen.

Algemeen beschikbaar op elk Vercel-plan; documentatie bijgewerkt tot en met 2026-10-07

INFRO-accounts zijn selfservice. De catalogus, de documentatie en het API-contract zijn openbaar, de gateway is uitgerold, en alles na v1 is gemarkeerd als Later. Plannen en proefperiode

Hoe het ervoor staat

Waar het staat

Een actief Vercel-product op elk plan. Teamregels voor routering over welke modellen mogen worden gebruikt, kwamen uit op 2026-07-02.

Wiens account het verzoek bedient

Standaard de systeemcredentials van Vercel, betaald uit AI Gateway-credits. Met BYOK wordt volgens de documentatie van Vercel een mislukt verzoek op jouw credentials opnieuw geprobeerd op de systeemcredentials en van de credits afgeschreven, en worden BYOK-uitgaven niet meegeteld in budgetten.

Wat INFRO niet overneemt

INFRO implementeert het AI Gateway-protocol niet: de gateway-provider van de AI SDK kan niet naar INFRO wijzen. Je stapt over op een OpenAI-compatibele provider, die bij de AI SDK zit.

Als je app op Vercel draait en de gateway zijn werk doet, is de integratie moeilijk te verslaan. Blijf als een van deze punten waar is.

  • Je authenticeert met Vercel OIDC-tokens vanuit je deployments en wilt helemaal geen gatewaysleutel. INFRO accepteert alleen zijn eigen sleutels.
  • Je gebruikt Realtime, embeddings van andere providers of de functies van de AI SDK die alleen met de gateway werken. INFRO biedt embeddings op OpenAI-, Azure OpenAI-, Mistral- en OpenAI-compatibele verbindingen, en geen Realtime.
  • Je wilt providers kiezen op kosten, tijd tot eerste token of doorvoer (sort). INFRO sorteert niet per verzoek.
  • Je wilt toegang tot modellen zonder account bij elke provider. INFRO draait alleen op accounts die jij hebt.
  • Je hebt per verzoek routering naar zero data retention of inferenceRegion nodig. INFRO heeft geen van beide; dataresidentie staat op de roadmap.

De wijzigingen, één rij per wijziging. Alles wat hier niet staat, blijft zoals het is.

 Vercel AI GatewayINFRO
Basis-URLhttps://ai-gateway.vercel.sh/v1, of de standaard gateway-provider van de AI SDK.https://api.infro.io/v1, via createOpenAI({ baseURL }) in de AI SDK.
SleutelAI_GATEWAY_API_KEY of een Vercel OIDC-token.INFRO_API_KEY, een INFRO-gatewaysleutel. Je providercredentials gaan als verbindingen naar INFRO.
Model-IDanthropic/claude-opus-5anthropic/claude-opus-5, ongewijzigd. Roep in de AI SDK infro.chat(id) aan: de kale callable van de provider richt zich op de Responses API.
OptiesproviderOptions.gateway { order, only, models, user, tags }, headers ai-reporting-*.Een route voor de volgorde, routing.providers voor only, fallbacks voor modellen, metadata { user_id, tags } voor gebruiker en tags.

Voor · Vercel AI Gateway

import { generateText } from "ai";

const { text } = await generateText({
  model: "anthropic/claude-opus-5",
  prompt: "Hello",
  providerOptions: {
    gateway: {
      order: ["vertex", "anthropic"],
      user: "user_123",
      tags: ["feature:chat"],
    },
  },
});

Na · INFRO

import { createOpenAI } from "@ai-sdk/openai";
import { generateText } from "ai";

const infro = createOpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

const { text } = await generateText({
  // A route named "chat" holds the order: Vertex, then Anthropic.
  model: infro.chat("chat"),
  prompt: "Hello",
  headers: { "X-INFRO-User-Id": "user_123", "X-INFRO-Feature": "chat" },
});

`.chat()`, niet de kale callable

createOpenAI(...)(id) richt zich op de Responses API van OpenAI. Gebruik infro.chat(id) voor Chat Completions, dat elke INFRO-verbinding aanbiedt; /v1/responses wordt ook aangeboden, maar heeft bij elke beurt het hele gesprek nodig.

Provider-slugs verschillen

vertex en bedrock van Vercel zijn google-vertex en aws-bedrock van INFRO in routing.providers. De volgorde wordt in de console op een route ingesteld, niet per verzoek.

Budgetten zien elk verzoek

Elk INFRO-verzoek draait op je eigen account, dus elk verzoek telt mee voor je budgetten. Een budget weigert bij zijn plafond met 402 budget_exceeded.

De objecten van Vercel AI Gateway tegenover die van INFRO, op basis van de openbare documentatie van Vercel AI Gateway gelezen op 19 oktober 2026 en getoetst aan wat de gateway implementeert. Twee rijen zeggen dat INFRO niets heeft.

Vercel AI GatewayWat het daar doetIn INFRO
AI Gateway API-sleutels en OIDCandersTeamsleutels of Vercel OIDC-tokens; sleutels hebben een budget en vervaldatum.Gatewaysleutels met een uitgavenlimiet, allowlist voor modellen, providerlijst, IP-bereiken en omgeving, te roteren of uit te zetten. Geen OIDC-tokenuitwisseling.
Systeemcredentials en BYOKandersStandaard de provideraccounts van Vercel; je eigen credentials optioneel, met fallback naar systeemcredentials.Alleen je eigen verbindingen, nooit een gedeelde pool. Elke provider factureert je rechtstreeks.
`order`, `only`andersProviders per verzoek op volgorde proberen, of tot enkele beperken.Een route bevat de volgorde en de faalregels; routing.providers beperkt per verzoek.
`sort` op kosten, TTFT, TPSnietsPer verzoek een provider kiezen op kosten of snelheid.Niets. De volgorde of gewichten van een route beslissen.
Modelfallbackszelfde vormmodels, op volgorde geprobeerd.fallbacks, maximaal 5.
Routeringsregelszelfde vormTeamregels over welke modellen mogen worden gebruikt.Allow- en blocklists per organisatie, project en sleutel, inclusief hele leveranciers.
Budgettenzelfde vormPlafonds per team, project, sleutel en gebruiker, 402 bij overschrijding; BYOK-uitgaven uitgesloten.Budgetten per organisatie, project, lid, sleutel en eindklant, 402 voordat de provider wordt aangeroepen; elk verzoek telt mee.
Eigen rapportageszelfde vormGebruiker en tags per verzoek; een rapportage-API gegroepeerd op gebruiker, model, tag, provider.metadata.user_id en tags op elk verzoek, gebruik gegroepeerd op project, sleutel, model, gebruiker en tag, en exports.
Automatische promptcachinganderscaching: 'auto' voegt cachemarkeringen van de provider toe; header voor sessie-affiniteit.Promptcaching bij de provider werkt zoals de provider die definieert; cache_control bereikt Anthropic zoals geschreven op /v1/messages. INFRO voegt geen markeringen toe. Daarnaast is er een optionele exact-match responscache.
Trace Drainszelfde vormOpenTelemetry-traces naar je eigen tool.Spans vanuit het verzoekpad naar je OpenTelemetry-collector.
Embeddings en RealtimeandersAangeboden door de gateway.Embeddings op je OpenAI-, Azure OpenAI-, Mistral- of OpenAI-compatibele verbinding, met failover alleen naar hetzelfde model. Realtime wordt niet aangeboden.
ZDR en inference-regionietsRoutering per verzoek naar zero data retention en inferenceRegion.Niet beschikbaar. Bewaring bij de provider volgt je contract met die provider; dataresidentie staat op de roadmap.

Onze lezing van de gepubliceerde documentatie van Vercel AI Gateway, geen proefperiode of benchmark. Als we iets verkeerd hebben gelezen, laat het ons weten en we passen de rij aan.

Wat INFRO niet doet

  • Het AI Gateway-protocol of de gateway-provider van de AI SDK implementeren.
  • Vercel OIDC-tokens accepteren.
  • Realtime aanbieden, of embeddings bij andere providers dan OpenAI, Azure OpenAI, Mistral of een OpenAI-compatibel endpoint.
  • Providers per verzoek sorteren op kosten of snelheid.
  • Modeltoegang bieden zonder je eigen provideraccounts.

Wat niet meekomt

  • Verzoeklogs en eigen rapportages. Er is geen importfunctie.
  • AI Gateway-credits. Die blijven bij Vercel.
  • Budgetten en routeringsregels. Bouw ze opnieuw als INFRO-budgetten en allowlists.

Vragen

Moet ik model-ID's wijzigen?
Nee. Beide gebruiken vendor/model, bijvoorbeeld anthropic/claude-opus-5. Bekijk GET /v1/models voor wat je INFRO-verbindingen aanbieden.
Werkt de AI SDK met INFRO?
Ja, via createOpenAI uit @ai-sdk/openai met baseURL: https://api.infro.io/v1, en dan infro.chat(modelId) aanroepen.
Wie factureert mij voor modelgebruik?
Je providers, rechtstreeks, op je eigen accounts. INFRO is een abonnement met 0% opslag op modeluitgaven.

Overstappen met ons, of zelf

Het migratieprogramma brengt je Vercel AI Gateway-setup in een gesprek in kaart naar INFRO-verbindingen, -routes en -budgetten en verhuist de eerste service samen met je. Je providers blijven je rechtstreeks factureren; INFRO is een abonnement en voegt 0% toe aan modeluitgaven.

Probeer 14 dagen Plan een migratiesessieINFRO vs Vercel AI GatewayLees de quickstart

Bronnen

Elke uitspraak op deze pagina over Vercel AI Gateway komt uit een van deze bronnen, gelezen op 19 oktober 2026. Niets is afgeleid uit een proefperiode, een benchmark of een gesprek.