Zum Inhalt springen

MigrationsleitfädenVon Vercel AI Gateway

Von Vercel AI Gateway, Modell-IDs unverändert

Vercel AI Gateway ist der Standard-Provider im AI SDK: Ein Modellname wie openai/gpt-6-astra erreicht es mit einem Vercel-Schlüssel oder OIDC-Token und wird über die Systemzugangsdaten von Vercel oder Ihre eigenen Schlüssel bedient. INFRO verwendet dieselben vendor/model-IDs, die Änderung betrifft also den Provider und die Optionen, nicht die Modellnamen.

Allgemein verfügbar in jedem Vercel-Tarif; Dokumentation aktualisiert bis 2026-10-07

INFRO-Konten sind per Selbstregistrierung verfügbar. Katalog, Dokumentation und API-Vertrag sind öffentlich, das Gateway ist bereitgestellt, und alles über v1 hinaus ist als „Später“ markiert. Tarife und Testphase

Wo die Dinge stehen

Wo es steht

Ein aktives Vercel-Produkt in jedem Tarif. Team-Routing-Regeln dazu, welche Modelle genutzt werden dürfen, erschienen am 2026-07-02.

Über wessen Konto die Anfrage läuft

Standardmäßig die Systemzugangsdaten von Vercel, bezahlt aus AI-Gateway-Guthaben. Mit BYOK wird laut Dokumentation von Vercel eine mit Ihren Zugangsdaten fehlgeschlagene Anfrage mit den Systemzugangsdaten wiederholt und dem Guthaben belastet, und BYOK-Ausgaben werden in Budgets nicht gezählt.

Was INFRO nicht übernimmt

INFRO implementiert das AI-Gateway-Protokoll nicht: Der gateway-Provider des AI SDK kann nicht auf INFRO zeigen. Sie wechseln zu einem OpenAI-kompatiblen Provider, den das AI SDK mitbringt.

Wenn Ihre App auf Vercel läuft und das Gateway seine Aufgabe erfüllt, ist die Integration kaum zu übertreffen. Bleiben Sie dabei, wenn eines davon zutrifft.

  • Sie authentifizieren sich mit Vercel-OIDC-Tokens aus Ihren Deployments und möchten überhaupt keinen Gateway-Schlüssel. INFRO akzeptiert nur eigene Schlüssel.
  • Sie nutzen Realtime, Embeddings anderer Anbieter oder Funktionen, die es nur im Gateway des AI SDK gibt. INFRO stellt Embeddings auf Verbindungen zu OpenAI, Azure OpenAI, Mistral und OpenAI-kompatiblen Endpunkten bereit und kein Realtime.
  • Sie möchten Anbieter nach Kosten, Zeit bis zum ersten Token oder Durchsatz wählen (sort). INFRO hat keine Sortierung pro Anfrage.
  • Sie möchten Zugang zu Modellen ohne Konto bei jedem Anbieter. INFRO läuft nur über Konten, die Sie besitzen.
  • Sie brauchen Routing ohne Datenaufbewahrung oder inferenceRegion pro Anfrage. INFRO hat beides nicht; Datenresidenz steht auf der Roadmap.

Die Änderungen, je eine Zeile. Alles, was hier nicht aufgeführt ist, bleibt, wie es ist.

 Vercel AI GatewayINFRO
Basis-URLhttps://ai-gateway.vercel.sh/v1 oder der Standard-Provider gateway des AI SDK.https://api.infro.io/v1, über createOpenAI({ baseURL }) im AI SDK.
SchlüsselAI_GATEWAY_API_KEY oder ein Vercel-OIDC-Token.INFRO_API_KEY, ein INFRO-Gateway-Schlüssel. Ihre Anbieter-Zugangsdaten ziehen als Verbindungen in INFRO um.
Modell-IDanthropic/claude-opus-5anthropic/claude-opus-5, unverändert. Rufen Sie im AI SDK infro.chat(id) auf: Der direkte Aufruf des Providers zielt auf die Responses API.
OptionenproviderOptions.gateway { order, only, models, user, tags }, Header ai-reporting-*.Eine Route für die Reihenfolge, routing.providers für only, fallbacks für Modelle, metadata { user_id, tags } für Nutzer und Tags.

Vorher · Vercel AI Gateway

import { generateText } from "ai";

const { text } = await generateText({
  model: "anthropic/claude-opus-5",
  prompt: "Hello",
  providerOptions: {
    gateway: {
      order: ["vertex", "anthropic"],
      user: "user_123",
      tags: ["feature:chat"],
    },
  },
});

Nachher · INFRO

import { createOpenAI } from "@ai-sdk/openai";
import { generateText } from "ai";

const infro = createOpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

const { text } = await generateText({
  // A route named "chat" holds the order: Vertex, then Anthropic.
  model: infro.chat("chat"),
  prompt: "Hello",
  headers: { "X-INFRO-User-Id": "user_123", "X-INFRO-Feature": "chat" },
});

`.chat()`, nicht der direkte Aufruf

createOpenAI(...)(id) zielt auf die Responses API von OpenAI. Verwenden Sie infro.chat(id) für Chat Completions, die jede INFRO-Verbindung bereitstellt; /v1/responses wird ebenfalls bereitgestellt, braucht aber bei jedem Schritt die ganze Konversation.

Provider-Slugs unterscheiden sich

vertex und bedrock bei Vercel entsprechen google-vertex und aws-bedrock von INFRO in routing.providers. Die Reihenfolge wird auf einer Route in der Konsole festgelegt, nicht pro Anfrage.

Budgets sehen jede Anfrage

Jede INFRO-Anfrage läuft über Ihr eigenes Konto, daher zählt jede Anfrage gegen Ihre Budgets. Ein Budget lehnt an seinem Limit mit 402 budget_exceeded ab.

Die Objekte von Vercel AI Gateway gegenüber denen von INFRO, anhand der öffentlichen Dokumentation von Vercel AI Gateway, gelesen am 19. Oktober 2026, und geprüft anhand dessen, was das Gateway implementiert. Zwei Zeilen besagen, dass INFRO nichts hat.

Vercel AI GatewayWas es dort tutIn INFRO
AI-Gateway-API-Schlüssel und OIDCandersTeam-Schlüssel oder Vercel-OIDC-Tokens; Schlüssel tragen ein Budget und ein Ablaufdatum.Gateway-Schlüssel mit Ausgabenlimit, Modell-Freigabeliste, Anbieterliste, IP-Bereichen und Umgebung, rotierbar oder abschaltbar. Kein OIDC-Token-Austausch.
Systemzugangsdaten und BYOKandersStandardmäßig die Anbieterkonten von Vercel; Ihre Zugangsdaten optional, mit Fallback auf Systemzugangsdaten.Nur Ihre Verbindungen, nie ein geteilter Pool. Jeder Anbieter rechnet direkt mit Ihnen ab.
`order`, `only`andersAnbieter pro Anfrage der Reihe nach versuchen oder auf einige beschränken.Eine Route enthält Reihenfolge und Fehlerregeln; routing.providers schränkt pro Anfrage ein.
`sort` nach Kosten, TTFT, TPSnichtsPro Anfrage einen Anbieter nach Kosten oder Geschwindigkeit wählen.Nichts. Reihenfolge oder Gewichte einer Route entscheiden.
Modell-Fallbacksgleiche Formmodels, der Reihe nach versucht.fallbacks, bis zu 5.
Routing-Regelngleiche FormTeam-Regeln dazu, welche Modelle genutzt werden dürfen.Freigabe- und Sperrlisten pro Organisation, Projekt und Schlüssel, einschließlich ganzer Hersteller.
Budgetsgleiche FormLimits pro Team, Projekt, Schlüssel und Nutzer, 402 bei Überschreitung; BYOK-Ausgaben ausgenommen.Budgets pro Organisation, Projekt, Mitglied, Schlüssel und Endkunde, 402, bevor der Anbieter aufgerufen wird; jede Anfrage zählt.
Eigene Berichtegleiche FormNutzer und Tags pro Anfrage; eine Report-API, gruppiert nach Nutzer, Modell, Tag, Anbieter.metadata.user_id und tags bei jeder Anfrage, Nutzung gruppiert nach Projekt, Schlüssel, Modell, Nutzer und Tag, sowie Exporte.
Automatisches Prompt-Cachinganderscaching: 'auto' fügt Cache-Marker des Anbieters hinzu; Header für Sitzungsaffinität.Prompt-Caching beim Anbieter funktioniert so, wie der Anbieter es definiert; cache_control erreicht Anthropic auf /v1/messages unverändert. INFRO fügt keine Marker hinzu. Davon getrennt: ein optionaler Antwort-Cache für exakte Treffer.
Trace Drainsgleiche FormOpenTelemetry-Traces an Ihr Tool.Spans aus dem Anfragepfad an Ihren OpenTelemetry Collector.
Embeddings und RealtimeandersVom Gateway bereitgestellt.Embeddings auf Ihrer Verbindung zu OpenAI, Azure OpenAI, Mistral oder einem OpenAI-kompatiblen Endpunkt, mit Failover nur auf dasselbe Modell. Realtime wird nicht bereitgestellt.
ZDR und InferenzregionnichtsRouting ohne Datenaufbewahrung pro Anfrage und inferenceRegion.Nicht verfügbar. Die Aufbewahrung beim Anbieter folgt Ihrem Vertrag mit ihm; Datenresidenz steht auf der Roadmap.

Unsere Lesart der veröffentlichten Dokumentation von Vercel AI Gateway, kein Test und kein Benchmark. Wenn wir etwas falsch gelesen haben, sagen Sie es uns, und wir korrigieren die Zeile.

Was INFRO nicht tut

  • Das AI-Gateway-Protokoll oder den gateway-Provider des AI SDK implementieren.
  • Vercel-OIDC-Tokens akzeptieren.
  • Realtime bereitstellen oder Embeddings bei anderen Anbietern als OpenAI, Azure OpenAI, Mistral oder einem OpenAI-kompatiblen Endpunkt.
  • Anbieter pro Anfrage nach Kosten oder Geschwindigkeit sortieren.
  • Modellzugang ohne Ihre eigenen Anbieterkonten bereitstellen.

Was nicht übernommen wird

  • Anfrageprotokolle und eigene Berichte. Es gibt keinen Import.
  • AI-Gateway-Guthaben. Es bleibt bei Vercel.
  • Budgets und Routing-Regeln. Bilden Sie sie als INFRO-Budgets und Freigabelisten nach.

Fragen

Muss ich Modell-IDs ändern?
Nein. Beide verwenden vendor/model, zum Beispiel anthropic/claude-opus-5. Prüfen Sie mit GET /v1/models, was Ihre INFRO-Verbindungen bereitstellen.
Funktioniert das AI SDK mit INFRO?
Ja, über createOpenAI aus @ai-sdk/openai mit baseURL: https://api.infro.io/v1 und dem Aufruf infro.chat(modelId).
Wer rechnet die Modellnutzung mit mir ab?
Ihre Anbieter, direkt, über Ihre eigenen Konten. INFRO ist ein Abonnement mit 0 % Aufschlag auf Modellausgaben.

Wechseln Sie mit uns oder auf eigene Faust

Das Migrationsprogramm überträgt Ihr Vercel AI Gateway-Setup in einem Gespräch auf INFRO-Verbindungen, -Routen und -Budgets und zieht den ersten Dienst gemeinsam mit Ihnen um. Ihre Anbieter rechnen weiterhin direkt mit Ihnen ab; INFRO ist ein Abonnement und schlägt 0 % auf Modellausgaben auf.

14 Tage testen Migrationstermin buchenINFRO vs. Vercel AI GatewayQuickstart lesen

Quellen

Jede Aussage auf dieser Seite über Vercel AI Gateway stammt aus einer dieser Quellen, gelesen am 19. Oktober 2026. Nichts ist aus einem Test, einem Benchmark oder einem Gespräch abgeleitet.