跳到正文

迁移指南从 Vercel AI Gateway

从 Vercel AI Gateway 迁移，模型 ID 不变

Vercel AI Gateway 是 AI SDK 中的默认提供方：像 openai/gpt-6-astra 这样的模型字符串使用 Vercel 密钥或 OIDC 令牌访问它，由 Vercel 的系统凭据或你自己的密钥提供服务。INFRO 使用相同的 vendor/model ID，因此需要修改的是提供方和选项，而不是模型名称。

在所有 Vercel 套餐上正式可用；文档更新至 2026-10-07

INFRO 账号可自助开通。 模型目录、文档和 API 契约已公开，网关已部署，v1 之后的所有功能都标注为“后续”。 套餐与试用

现状

现状

所有套餐都提供的一项正在运营的 Vercel 产品。限制可用模型的团队路由规则于 2026-07-02 上线。

由谁的账号处理请求

默认使用 Vercel 的系统凭据，从 AI Gateway 积分中扣费。使用 BYOK 时，Vercel 的文档称，在你的凭据上失败的请求会改用其系统凭据重试并从积分中扣费，而且 BYOK 支出不计入预算。

INFRO 不照搬的部分

INFRO 没有实现 AI Gateway 协议：AI SDK 的 gateway 提供方无法指向 INFRO。你需要改用 AI SDK 自带的 OpenAI 兼容提供方。

如果你的应用运行在 Vercel 上，而网关也运作良好，这种集成很难被超越。如果以下任意一条成立，就继续使用。

  • 你使用部署中的 Vercel OIDC 令牌进行认证，完全不想用网关密钥。INFRO 只接受它自己的密钥。
  • 你使用 Realtime、来自其他提供商的嵌入，或 AI SDK 中仅限网关的功能。INFRO 在 OpenAI、Azure OpenAI、Mistral 和 OpenAI 兼容连接上提供嵌入，不提供 Realtime。
  • 你希望按成本、首 token 时间或吞吐量选择提供商（sort）。INFRO 没有按请求的排序。
  • 你希望无需在每家提供商开账号就能访问模型。INFRO 只在你持有的账号上运行。
  • 你需要按请求的零数据保留路由或 inferenceRegion。INFRO 两者都没有；数据驻留在路线图上。

需要的修改，每项一行。未在此列出的内容都保持不变。

 Vercel AI GatewayINFRO
基础 URLhttps://ai-gateway.vercel.sh/v1，或 AI SDK 默认的 gateway 提供方。https://api.infro.io/v1，在 AI SDK 中通过 createOpenAI({ baseURL }) 设置。
密钥AI_GATEWAY_API_KEY 或 Vercel OIDC 令牌。INFRO_API_KEY，一个 INFRO 网关密钥。你的提供商凭据作为连接迁入 INFRO。
模型 IDanthropic/claude-opus-5anthropic/claude-opus-5，保持不变。在 AI SDK 中调用 infro.chat(id)：直接调用提供方会指向 Responses API。
选项providerOptions.gateway { order, only, models, user, tags }、ai-reporting-* 请求头。顺序用路由规则，仅限用 routing.providers，模型用 fallbacks，用户和标签用 metadata { user_id, tags }。

之前 · Vercel AI Gateway

import { generateText } from "ai";

const { text } = await generateText({
  model: "anthropic/claude-opus-5",
  prompt: "Hello",
  providerOptions: {
    gateway: {
      order: ["vertex", "anthropic"],
      user: "user_123",
      tags: ["feature:chat"],
    },
  },
});

之后 · INFRO

import { createOpenAI } from "@ai-sdk/openai";
import { generateText } from "ai";

const infro = createOpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

const { text } = await generateText({
  // A route named "chat" holds the order: Vertex, then Anthropic.
  model: infro.chat("chat"),
  prompt: "Hello",
  headers: { "X-INFRO-User-Id": "user_123", "X-INFRO-Feature": "chat" },
});

使用 `.chat()`，而不是直接调用

createOpenAI(...)(id) 指向 OpenAI 的 Responses API。请使用 infro.chat(id) 调用 Chat Completions，所有 INFRO 连接都支持它；/v1/responses 也支持，但每一轮都需要完整对话。

提供商标识不同

Vercel 的 vertex 和 bedrock 在 routing.providers 中对应 INFRO 的 google-vertex 和 aws-bedrock。顺序在控制台中的路由规则上设置，而不是按请求设置。

预算覆盖每个请求

每个 INFRO 请求都在你自己的账号上运行，因此每个请求都计入你的预算。预算在达到上限时以 402 budget_exceeded 拒绝。

Vercel AI Gateway 的对象与 INFRO 的对照，依据 2026年10月19日 阅读的 Vercel AI Gateway 公开文档，并已按网关实际实现的内容核对。 有两行显示 INFRO 没有对应项。

Vercel AI Gateway它在那里的作用在 INFRO 中
AI Gateway API 密钥和 OIDC不同团队密钥或 Vercel OIDC 令牌；密钥带有预算和到期时间。网关密钥，带有支出限额、模型允许列表、提供商列表、IP 范围和环境，可轮换或停用。不支持 OIDC 令牌交换。
系统凭据和 BYOK不同默认使用 Vercel 的提供商账号；可选使用你的凭据，并可回退到系统凭据。只使用你的连接，绝不使用共享池。每家提供商都直接向你收费。
`order`, `only`不同按请求依次尝试提供商，或限定在部分提供商。路由规则保存顺序和故障规则；routing.providers 按请求进行限制。
按成本、TTFT、TPS `sort`无对应按成本或速度为每个请求选择提供商。无。由路由规则的顺序或权重决定。
模型回退形式相同models，按顺序尝试。fallbacks，最多 5 个。
路由规则形式相同限制可用模型的团队规则。按组织、项目和密钥设置的允许和阻止列表，可包含整个厂商。
预算形式相同按团队、项目、密钥和用户设置上限，超出时返回 402；BYOK 支出不计入。按组织、项目、成员、密钥和终端客户设置的预算，在调用提供商之前返回 402；每个请求都计入。
自定义报告形式相同每个请求的用户和标签；按用户、模型、标签、提供商分组的报告 API。每个请求上的 metadata.user_id 和 tags，按项目、密钥、模型、用户和标签分组的用量，以及导出。
自动提示词缓存不同caching: 'auto' 会添加提供商缓存标记；会话亲和请求头。提供商的提示词缓存按提供商的定义工作；cache_control 在 /v1/messages 上原样到达 Anthropic。INFRO 不添加任何标记。另外还有一个需主动开启的精确匹配响应缓存。
Trace Drains形式相同发送到你的工具的 OpenTelemetry 追踪数据。从请求路径发送到你的 OpenTelemetry 采集器的 span。
嵌入和 Realtime不同由网关提供。在你的 OpenAI、Azure OpenAI、Mistral 或 OpenAI 兼容连接上提供嵌入，只会故障转移到同一个模型。不提供 Realtime。
ZDR 和推理区域无对应按请求的零数据保留路由和 inferenceRegion。不提供。提供商处的数据保留遵循你与其签订的合同；数据驻留在路线图上。

这是我们对 Vercel AI Gateway 已发布文档的理解，而非试用或基准测试。如果我们理解有误，告诉我们，我们会修正那一行。

INFRO 不做的事

  • 实现 AI Gateway 协议或 AI SDK 的 gateway 提供方。
  • 接受 Vercel OIDC 令牌。
  • 提供 Realtime，或在 OpenAI、Azure OpenAI、Mistral 或 OpenAI 兼容端点之外的提供商上提供嵌入。
  • 按成本或速度为每个请求排序提供商。
  • 在你没有自己的提供商账号的情况下提供模型访问。

哪些无法迁移过来

  • 请求日志和自定义报告。没有导入工具。
  • AI Gateway 积分。它们留在 Vercel。
  • 预算和路由规则。将它们重建为 INFRO 预算和允许列表。

问题

我需要修改模型 ID 吗？
不需要。两者都使用 vendor/model，例如 anthropic/claude-opus-5。查看 GET /v1/models 了解你的 INFRO 连接提供哪些模型。
AI SDK 能与 INFRO 配合使用吗？
能，通过 @ai-sdk/openai 中的 createOpenAI 设置 baseURL: https://api.infro.io/v1，并调用 infro.chat(modelId)。
模型用量由谁向我收费？
由你的提供商直接在你自己的账号上收费。INFRO 是订阅制，对模型支出加价 0%。

和我们一起迁移，或自行迁移

迁移计划会在一次通话中把你的 Vercel AI Gateway 设置映射为 INFRO 的连接、路由规则和预算，并和你一起迁移第一个服务。你的提供商继续直接向你收费；INFRO 是一项订阅，对模型支出零加价。

开始 14 天试用 预约迁移会话INFRO 对比 Vercel AI Gateway阅读快速入门

来源

本页关于 Vercel AI Gateway 的每一项陈述都来自以下来源之一，阅读于 2026年10月19日。没有任何内容是从试用、基准测试或交谈中推断的。