AI 网关和代理
从 Vercel AI Gateway
在所有 Vercel 套餐上正式可用;文档更新至 2026-10-07
模型 ID 相同,提供商不同
模型 ID 已经一致(
阅读指南anthropic/claude-opus-5)。在 AI SDK 中,模型字符串改为一个指向 INFRO 的 OpenAI 兼容提供方;providerOptions.gateway改为路由规则、fallbacks和metadata。INFRO 本身不支持 AI Gateway 协议,只在 OpenAI、Azure OpenAI、Mistral 或 OpenAI 兼容连接上提供嵌入,也不提供 Realtime。从 Kong AI Gateway
AI Gateway 2.x(2.0 于 2026-07-10 发布,2.2 于 2026-09-30 发布);Konnect 托管或自托管
往往就该继续使用
Kong 本身已经是 BYOK:你的提供商凭据保存在 AI Model Provider 上。AI Model 目标变为路由规则,consumer 变为网关密钥,token 和成本速率限制变为预算。语义缓存、语义均衡、提示词模板和 A2A 在这里没有对应功能。
阅读指南从 LiteLLM
BerriAI 的 MIT 开源项目,另有需要许可证的 Enterprise 版本;自托管
淘汰代理,保留库
LiteLLM 代理的
阅读指南model_list变成提供商连接和路由,虚拟密钥变成网关密钥,密钥和团队预算变成 INFRO 预算。Python SDK 可以保留,并把 INFRO 当作兼容 OpenAI 的端点来调用。语义缓存、A2A,以及无需协议自己运行,则不会迁移过来。从 Portkey
已被 Palo Alto Networks 收购(2026-05-29 完成);现为 Prisma AIRS AI Gateway
配置对应路由
Integrations 变成提供商连接,
阅读指南@provider/model变成vendor/model或一条路由,带 fallback 或 load-balance 目标的配置变成路由,x-portkey-metadata变成metadata。提示词库、语义缓存和日志历史不会迁移过来。从 TrueFoundry
独立公司;已收购 Seldon AI(2026-06-24);BYOK AI Gateway,SaaS 或 Enterprise 版自托管
虚拟模型对应到路由规则
TrueFoundry 和 INFRO 一样是 BYOK。模型账号变为连接,虚拟模型变为路由规则,
阅读指南X-TFY-METADATA变为metadata,Budget Limiting 变为 INFRO 预算。语义缓存、按其定义的基于延迟和复杂度的路由、批处理和文件无法沿用。从 Orq.ai
阿姆斯特丹团队打造;AI Gateway 可使用 Orq 积分或你自己的密钥;欧盟 SaaS,Enterprise 版可选 VPC 和本地部署
网关迁移;AI Studio 保留
Orq 的 AI Gateway 对应关系很接近:提供商密钥变为连接,
阅读指南fallbacks和retry迁移到 INFRO 的fallbacks和路由规则,身份变为metadata.user_id,预算变为 INFRO 预算。运行在 Orq 积分上的流量需要先有你自己的提供商账号。AI Studio(提示词、评估器、知识库、智能体)在这里没有对应功能。从 Bifrost
由 Maxim 开发的开源(Apache 2.0)Go 网关;自托管,另有授权的 Enterprise 层级
虚拟密钥对应到网关密钥
Bifrost 的虚拟密钥变为 INFRO 网关密钥,
阅读指南fallbacks仍是fallbacks,带提供商前缀的模型 ID 改用 INFRO 的写法后沿用,虚拟密钥预算变为 INFRO 预算。语义缓存、Go 插件和自行运行则无法沿用。
路由器和聚合器
从 OpenRouter
Stripe 已同意收购(2026-08-19 宣布);截至 2026-10-19 尚无完成公告
把它保留为一个上游
OpenRouter 可以保留:它是一种提供商类型,你可以在 INFRO 中用自己的 OpenRouter 密钥接入,与你直连的 OpenAI、Anthropic 或 Bedrock 账号并列。
阅读指南models变为fallbacks,provider.order变为路由规则或routing.providers,按价格或延迟排序没有对应功能。从 Requesty
独立公司;托管路由器,提供基于积分的自有提供商访问,并支持六家提供商的 BYOK
策略对应到路由规则
Requesty 路由策略(
阅读指南policy/<name>)变为 INFRO 路由规则,requesty请求体对象变为metadata,按密钥的支出上限变为预算。每个请求都在你自己的提供商账号上运行,因此 Requesty 通过其自有访问提供的模型,需要你有对应的账号。从 LLM Gateway
llmgateway.io;AGPLv3 核心,另有授权的 `ee/` 版本;托管或自托管
BYOK 模式可以直接对应
LLM Gateway 的 BYOK 提供商密钥变为 INFRO 连接,
阅读指南X-LLMGateway-*请求头变为metadata,按密钥的支出限额和 IAM 规则变为预算和允许列表。它的 Vercel AI Gateway 协议端点在 INFRO 中没有对应功能:AI SDK 应用需改用 OpenAI 兼容提供方。从 Unify
转向持续学习;路由器文档不再公开;GitHub 代码库于 2026-10-16 归档
在不得不迁移之前就迁移
unify.ai 现在展示的是一款持续学习产品,公开文档需要登录才能访问,代码库已于 2026-10-16 归档。使用
阅读指南model@providerID 调用api.unify.ai/v0的代码,可迁移到 INFRO 上的vendor/model,运行在你持有的提供商账号上。从 Eden AI
独立公司(里昂);API v3;基于积分的自有提供商访问,包含 BYOK 的套餐另可使用 BYOK
LLM 调用迁移,专业模型保留
Eden AI 的 chat completions 只需更换基础 URL、密钥并改用 INFRO 模型 ID 即可迁移;
阅读指南fallbacks名称不变,routing.allowed_providers变为routing.providers.allow。它的专业模型 API(OCR、内容审核、NER 等)在 INFRO 中没有对应功能,继续留在 Eden AI。从 Martian 和 Not Diamond
Martian 的路由器已不再有文档;Not Diamond 转向编程智能体(Python SDK 于 2025-12-11 归档)
路由规则和提示词分类器
模型路由器为每个提示词挑选模型。Martian 的文档现在只介绍其网关;Not Diamond 现在为编程智能体做路由。INFRO 借助你选择的决策模型上的分类器为每个提示词做路由,发送到你设定的目标,并运行在你自己的账号上。
阅读指南
可观测性网关
从 Helicone
已被 Mintlify 收购;服务处于维护模式
Langfuse 往往就是答案
网关集成几乎可以直接对应;注释信息从请求头移到请求体中,响应缓存只匹配完全相同的请求。提示词管理、评估器和语义缓存在这里没有对应功能,本指南会说明应该改用什么。
阅读指南从 Cloudflare AI Gateway
正式可用;核心功能免费
大多数读者应该继续使用
没有任何因素迫使你迁移,因此本指南开头先列出三个可以在你自己的网关上测量的数字,其中两个会让决定倾向 Cloudflare。然后是对应关系:请求头变为请求体字段,重试请求头没有对应位置,安全类别护栏和 Workers AI 在这里没有对应功能。
阅读指南
某一家云的 AI 服务
从 Amazon Bedrock
AWS 服务;在 Converse 之外新增了 Bedrock API 密钥和 OpenAI 兼容端点
部分可以:Bedrock 上的 Claude 保持直连
INFRO 使用 Bedrock API 密钥连接到 Bedrock 的 OpenAI 兼容端点,该端点提供那里的 OpenAI、xAI、Moonshot 和 MiniMax 模型。Bedrock 上的 Claude、Llama、Nova 和 Cohere 需要 Converse,而 INFRO 尚不支持,因此这些调用保持直连,或改用 Anthropic 或 Vertex AI 连接。
阅读指南从 Azure OpenAI
Microsoft Foundry Models 中的 Azure OpenAI;自 2025 年 8 月起,v1 API 不再需要 api-version
部署变为模型映射
INFRO 使用你 Azure OpenAI 资源的密钥调用其 v1 端点;每个模型映射到你的部署名称。你的应用获得到 OpenAI 或其他提供商的故障转移、预算和每请求成本。Entra ID 认证、Azure 内容筛选器配置和评估留在 Azure 中。
阅读指南从 Google Vertex AI
2026-04-22 更名为 Gemini Enterprise Agent Platform;主机仍为 aiplatform.googleapis.com
你项目中的 Gemini 和 Claude
INFRO 使用服务账号密钥在你的 Google Cloud 项目中调用 Vertex AI,支持 Gemini 和 Claude。Vertex 上的 Claude 原样通过
阅读指南/v1/messages,因此 Claude Code 和 Anthropic SDK 无需修改即可使用。上下文缓存、写入 Cloud Billing 的标签和 Provisioned Throughput 留在 Google Cloud 中。
还没有网关
从 直接使用 OpenAI 和 Anthropic SDK
你自己的代码,用各家提供商的密钥调用各自的 SDK
每个客户端两行
每个客户端保留自己的 SDK,只需增加一个基础 URL 和一个 INFRO 密钥。模型 ID 变为
阅读指南vendor/model;Anthropic SDK 在/v1/messages上保留 Anthropic 自己的 ID。OpenAI 嵌入也可以迁移,使用同一个模型;Batch、Files、微调和 Realtime 仍直接留在提供商上。从 自建的 AI 代理
你自己放在提供商前面的服务:密钥、重试、日志、配额
下线它,或把它保留在 INFRO 后面
代理的工作对应到连接、路由规则、预算和请求日志。在迁移服务期间,可以把代理作为
阅读指南openai-compatible连接保留在 INFRO 后面,或者直接下线。凡是它对提示词本身做的处理,都仍由你的代码负责。
你在运行的东西不在这里? 告诉我们你现在用的是什么。 如果答案是你应该保持现状,你得到的就是这个答案。 如果你想并排比较产品而不是迁移,请查看对比页面。