Aller au contenu

Guides de migrationDepuis Vercel AI Gateway

Depuis Vercel AI Gateway, identifiants de modèle inchangés

Vercel AI Gateway est le provider par défaut de l'AI SDK : une chaîne de modèle comme openai/gpt-6-astra l'atteint avec une clé Vercel ou un jeton OIDC, servie sur les identifiants système de Vercel ou sur vos propres clés. INFRO utilise les mêmes identifiants vendor/model : la modification porte donc sur le provider et les options, pas sur les noms de modèles.

Disponible pour tous sur chaque offre Vercel ; documentation mise à jour jusqu'au 2026-10-07

Les comptes INFRO sont en libre-service. Le catalogue, la documentation et le contrat d'API sont publics, la passerelle est déployée, et tout ce qui va au-delà de la v1 est marqué Plus tard. Offres et essai

Où en sont les choses

Où en est le produit

Un produit Vercel actif sur chaque offre. Les règles de routage d'équipe sur les modèles autorisés sont sorties le 2026-07-02.

Le compte de qui sert la requête

Par défaut, les identifiants système de Vercel, payés sur des crédits AI Gateway. En BYOK, la documentation de Vercel indique qu'une requête échouée sur vos identifiants est relancée sur ses identifiants système et facturée en crédits, et que les dépenses BYOK ne sont pas comptées dans les budgets.

Ce qu'INFRO ne reproduit pas

INFRO n'implémente pas le protocole AI Gateway : le provider gateway de l'AI SDK ne peut pas pointer vers INFRO. Vous passez à un provider compatible OpenAI, fourni avec l'AI SDK.

Si votre application tourne sur Vercel et que la passerelle fait son travail, l'intégration est difficile à battre. Restez-y si l'un de ces points est vrai.

  • Vous vous authentifiez avec des jetons OIDC Vercel issus de vos déploiements et ne voulez aucune clé de passerelle. INFRO n'accepte que ses propres clés.
  • Vous utilisez Realtime, des embeddings d'autres fournisseurs, ou les fonctionnalités de l'AI SDK propres à la passerelle. INFRO sert les embeddings sur les connexions OpenAI, Azure OpenAI, Mistral et compatibles OpenAI, et pas de Realtime.
  • Vous voulez choisir le fournisseur selon le coût, le temps jusqu'au premier token ou le débit (sort). INFRO n'a pas de tri par requête.
  • Vous voulez accéder à des modèles sans compte chez chaque fournisseur. INFRO ne fonctionne que sur des comptes que vous détenez.
  • Vous avez besoin d'un routage sans conservation des données ou d'inferenceRegion par requête. INFRO n'a ni l'un ni l'autre ; la résidence des données est sur la feuille de route.

Les modifications, une ligne chacune. Tout ce qui n'est pas listé ici reste tel quel.

 Vercel AI GatewayINFRO
URL de basehttps://ai-gateway.vercel.sh/v1, ou le provider gateway par défaut de l'AI SDK.https://api.infro.io/v1, via createOpenAI({ baseURL }) dans l'AI SDK.
CléAI_GATEWAY_API_KEY ou un jeton OIDC Vercel.INFRO_API_KEY, une clé de passerelle INFRO. Vos identifiants fournisseur passent dans INFRO sous forme de connexions.
ID du modèleanthropic/claude-opus-5anthropic/claude-opus-5, inchangé. Dans l'AI SDK, appelez infro.chat(id) : l'appel direct du provider cible la Responses API.
OptionsproviderOptions.gateway { order, only, models, user, tags }, en-têtes ai-reporting-*.Une route pour l'ordre, routing.providers pour only, fallbacks pour models, metadata { user_id, tags } pour user et tags.

Avant · Vercel AI Gateway

import { generateText } from "ai";

const { text } = await generateText({
  model: "anthropic/claude-opus-5",
  prompt: "Hello",
  providerOptions: {
    gateway: {
      order: ["vertex", "anthropic"],
      user: "user_123",
      tags: ["feature:chat"],
    },
  },
});

Après · INFRO

import { createOpenAI } from "@ai-sdk/openai";
import { generateText } from "ai";

const infro = createOpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

const { text } = await generateText({
  // A route named "chat" holds the order: Vertex, then Anthropic.
  model: infro.chat("chat"),
  prompt: "Hello",
  headers: { "X-INFRO-User-Id": "user_123", "X-INFRO-Feature": "chat" },
});

`.chat()`, pas l'appel direct

createOpenAI(...)(id) cible la Responses API d'OpenAI. Utilisez infro.chat(id) pour Chat Completions, que sert chaque connexion INFRO ; /v1/responses est aussi servi, mais nécessite toute la conversation à chaque tour.

Les slugs de fournisseurs diffèrent

Les vertex et bedrock de Vercel sont les google-vertex et aws-bedrock d'INFRO dans routing.providers. L'ordre est défini sur une route dans la console, pas par requête.

Les budgets voient chaque requête

Chaque requête INFRO s'exécute sur votre propre compte, donc chaque requête compte dans vos budgets. Un budget refuse à son plafond avec 402 budget_exceeded.

Les objets de Vercel AI Gateway face à ceux de INFRO, d'après la documentation publique de Vercel AI Gateway lue le 19 octobre 2026 et vérifiés par rapport à ce que la passerelle implémente. Deux lignes indiquent que INFRO n'a rien.

Vercel AI GatewayCe que cela y faitDans INFRO
Clés API AI Gateway et OIDCdifférentClés d'équipe ou jetons OIDC de Vercel ; les clés portent un budget et une expiration.Des clés de passerelle avec une limite de dépenses, une liste d'autorisation de modèles, une liste de fournisseurs, des plages IP et un environnement, renouvelées ou désactivées. Pas d'échange de jetons OIDC.
Identifiants système et BYOKdifférentLes comptes fournisseurs de Vercel par défaut ; vos identifiants en option, avec repli sur les identifiants système.Uniquement vos connexions, jamais un pool partagé. Chaque fournisseur vous facture directement.
`order`, `only`différentEssayer les fournisseurs dans l'ordre, ou se limiter à certains, par requête.Une route contient l'ordre et les règles d'échec ; routing.providers restreint par requête.
`sort` par coût, TTFT, TPSrienChoisir un fournisseur par requête selon le coût ou la vitesse.Rien. L'ordre ou les poids d'une route décident.
Replis de modèlesmême formemodels, essayés dans l'ordre.fallbacks, jusqu'à 5.
Règles de routagemême formeRègles d'équipe sur les modèles autorisés.Listes d'autorisation et de blocage par organisation, projet et clé, y compris des éditeurs entiers.
Budgetsmême formePlafonds par équipe, projet, clé et utilisateur, 402 en cas de dépassement ; dépenses BYOK exclues.Des budgets par organisation, projet, membre, clé et client final, 402 avant l'appel au fournisseur ; chaque requête compte.
Rapports personnalisésmême formeUtilisateur et tags par requête ; une API de rapports groupée par utilisateur, modèle, tag, fournisseur.metadata.user_id et tags sur chaque requête, usage groupé par projet, clé, modèle, utilisateur et tag, et exports.
Cache de prompts automatiquedifférentcaching: 'auto' ajoute les marqueurs de cache du fournisseur ; en-tête d'affinité de session.Le cache de prompts du fournisseur fonctionne comme le fournisseur le définit ; cache_control parvient à Anthropic tel qu'écrit sur /v1/messages. INFRO n'ajoute aucun marqueur. Séparément, un cache de réponses facultatif à correspondance exacte.
Trace Drainsmême formeDes traces OpenTelemetry vers votre outil.Des spans vers votre collecteur OpenTelemetry depuis le chemin de la requête.
Embeddings et RealtimedifférentServi par la passerelle.Les embeddings sur votre connexion OpenAI, Azure OpenAI, Mistral ou compatible OpenAI, avec basculement uniquement vers le même modèle. Realtime n'est pas servi.
ZDR et région d'inférencerienRoutage sans conservation des données par requête et inferenceRegion.Non disponible. La conservation chez le fournisseur suit votre contrat avec lui ; la résidence des données est sur la feuille de route.

Notre lecture de la documentation publiée par Vercel AI Gateway, pas un essai ni un benchmark. Si nous avons mal lu quelque chose, dites-le-nous et nous corrigerons la ligne.

Ce que INFRO ne fait pas

  • Implémenter le protocole AI Gateway ou le provider gateway de l'AI SDK.
  • Accepter les jetons OIDC de Vercel.
  • Servir Realtime, ou les embeddings chez d'autres fournisseurs qu'OpenAI, Azure OpenAI, Mistral ou un endpoint compatible OpenAI.
  • Trier les fournisseurs par requête selon le coût ou la vitesse.
  • Fournir l'accès aux modèles sans vos propres comptes fournisseurs.

Ce qui n'est pas repris

  • Les journaux de requêtes et les rapports personnalisés. Il n'y a pas d'outil d'import.
  • Les crédits AI Gateway. Ils restent chez Vercel.
  • Budgets et règles de routage. Recréez-les sous forme de budgets et de listes d'autorisation INFRO.

Questions

Dois-je changer les identifiants de modèle ?
Non. Les deux utilisent vendor/model, par exemple anthropic/claude-opus-5. Consultez GET /v1/models pour voir ce que servent vos connexions INFRO.
L'AI SDK fonctionne-t-il avec INFRO ?
Oui, via createOpenAI de @ai-sdk/openai avec baseURL: https://api.infro.io/v1, en appelant infro.chat(modelId).
Qui me facture l'usage des modèles ?
Vos fournisseurs, directement, sur vos propres comptes. INFRO est un abonnement avec 0 % de majoration sur les dépenses de modèles.

Migrez avec nous, ou seul

Le programme de migration transpose votre configuration Vercel AI Gateway en connexions, routes et budgets INFRO lors d'un appel, et migre le premier service avec vous. Vos fournisseurs continuent de vous facturer directement ; INFRO est un abonnement et ajoute 0 % aux dépenses de modèles.

Essai de 14 jours Réserver une session de migrationINFRO vs Vercel AI GatewayLire le démarrage rapide

Sources

Chaque affirmation de cette page sur Vercel AI Gateway provient de l'une de ces sources, lues le 19 octobre 2026. Rien n'est déduit d'un essai, d'un benchmark ou d'une conversation.