Vercel 平台上的 AI 网关
INFRO vs Vercel AI Gateway
Vercel AI Gateway 是跨越大型模型目录的单一端点,内置于 Vercel 平台和 AI SDK。它不对 token 加价,通过自己的 AI Gateway Credits 销售模型访问权限,其中部分模型有免费层,并提供按团队、项目、密钥和成员划分的预算、可观测性、零数据保留路由和区域推理。对于在 Vercel 上部署并使用 AI SDK 编写代码的团队,这是从零到可用模型调用的最短路径,这是一项实实在在的优势,而不仅仅是方便。
何时 Vercel AI Gateway 是更好的选择
- 你在 Vercel 上部署,并使用 AI SDK 构建。项目的部署使用各自的 OIDC 令牌进行身份验证,因此无需创建、存储或轮换网关密钥,项目预算也直接附加在这些部署上。
- 你想完全不持有提供商账号就能访问模型。Vercel 替你购买推理服务,并从其积分中扣费;INFRO 只路由到你已拥有的提供商账号,因此对没有账号的团队无从提供帮助。
- 你想从零开始。Vercel 的免费层覆盖部分模型;INFRO 的每个套餐都是付费的,并提供 14 天试用。
- 你需要的是带默认值的按成员预算。Vercel 的默认预算让每个项目、密钥或成员在创建的那一刻就拥有自己的额度(包括之后创建的),并在 50%、75% 和 100% 时发送邮件告警。
这一节不是客套。如果其中某一条说的正是你,请选择 Vercel AI Gateway——一个听了我们的建议却用错了这一层的客户,对我们来说比从未成为客户更糟。
两者真正的分歧所在。
- 请求由谁的账号承担
- Vercel 提供两种方式:请求在 Vercel 自己的提供商账号上运行,用 AI Gateway Credits 付费;或者在你自己的密钥上运行,不加价。其文档说明,自带密钥是付费层级的功能,需要购买积分;并且当使用你的凭据的请求失败时,会在 Vercel 的系统凭据上重试,并计入该余额——开启零数据保留时,仅限提供商签有 ZDR 协议的系统凭据。这种回退对可用性而言是合理的设计,但这也意味着你原本打算按自己合同运行的请求,可能会在别人的合同下完成。INFRO 不持有任何提供商账号,也没有余额,所以没有可回退的对象:故障转移只在你建立的连接之间按路由设定的顺序进行,没有任何连接能处理的请求会直接失败,而不是离开你的账号。
- 预算计算什么
- 两款产品在达到美元上限后都会以 402 拒绝请求,作用范围相近。区别在于上限能看到哪些支出。Vercel 的预算和 BYOK 页面(2026-10-13 阅读)表示,通过你自己的提供商密钥产生的支出会单独计量,不计入任何预算,因此预算无法为其封顶;预算页面还将每个预算描述为软上限,在请求开始时检查,所以越过上限的那个请求仍会完成。在 INFRO 中,每个请求都运行在你自己的密钥上,因此预算管辖的就是每一个请求:组织、项目、成员和密钥,所有套餐均如此。阻断型预算只有在请求的最坏情况预估成本能放进剩余余量时才放行,且会计入仍在处理中的请求;没有已知价格的模型会在阻断型预算下被拒绝,除非所有者允许未定价流量。这一切计算的都是 INFRO 对提供商费用的估算,而不是你的提供商的发票。
- 按你的费率估算,再对照提供商自己的数字
- 出售推理服务的网关按自己的费率为请求定价;只路由你自己账号的网关则必须按你的费率定价。INFRO 根据厂商公布的费率估算每个请求,从 Team 套餐起也可使用你合同中的费率,按模型存储,并可按提供商细分。在 Business 套餐中,它会把当月估算与 OpenAI 和 Anthropic 自己的成本 API 进行比较,并说明差异。
- 某个平台的一部分,还是独立的产品
- Vercel 的网关是部署平台的一个界面,它的许多优点——来自部署的 OIDC 身份验证、AI SDK、一张 Vercel 账单——都源自于此。INFRO 只对一件事负责:为运行它的任何人在其应用部署的任何地方、其持有合同的任何提供商之间运营 AI。如果你的应用和模型访问都在 Vercel 上,这种独立性对你价值不大。如果不是,这就是重点。
并排对比。
我们这一栏也有横线。一方全是勾的对比没人会信,而且理应如此。
| 能力 | Vercel AI Gateway | INFRO |
|---|---|---|
| 一套 API 访问众多提供商 | 是大型目录;Vercel 的账号或你的账号 | 是你所连接的提供商能提供的一切 |
| 无需自己的提供商账号即可访问模型 | 是AI Gateway Credits;部分模型有免费层 | 否仅限你自己的提供商账号 |
| 你自己的提供商密钥 | 部分付费层级;需要购买的积分 | 是唯一的模式;按环境连接 |
| 故障转移只在你自己的账号之间进行 | 否文档记载的在 Vercel 凭据上的重试 | 是仅在你自己的连接之间 |
| 会拒绝请求的预算 | 部分团队、项目、密钥、成员;文档称为软上限 | 是组织、项目、成员、密钥;402 |
| 涵盖你自己密钥上支出的预算 | 否据其文档,BYOK 支出不计入 | 是每个请求都使用你自己的密钥 |
| 零数据保留路由 | 是按请求或全团队 | 否适用你自己的提供商协议 |
| 来自你的部署的身份验证 | 是Vercel 上的 OIDC 令牌 | 否网关密钥 |
| 免费层 | 是部分模型 | 否付费套餐,含试用 |
| 现已可用 | 是 | 是自助注册 |
这是我们对各产品公开文档的解读,截至 2026年10月。我们不引用竞争对手的价格——他们的价格会变,对别人的业务给出一个错误的数字,不如不给。认为某一行有误?请告诉我们,我们会更正。
已经在用 Vercel AI Gateway?阅读从 Vercel AI Gateway 迁移的指南:哪些代码要改,哪些可以沿用,哪些不行。
在比较两个以上的选项?查看 Vercel AI Gateway 的所有替代方案,了解各自更合适的场景。