对比
AI 网关对比。
15 个围绕模型调用的产品，按类型分组：自行运行的网关、云平台内置的网关、统一模型 API、企业平台以及可观测性工具。每个页面都是我们对另一款产品公开文档的理解，并且都会直接说明那款产品何时是更好的选择。
这些都是好产品，对很多团队来说，其中一个就足够了。INFRO 押注的是这些环节应该放在一起：被路由的请求，就是被追踪、被计价、被按照你组织的策略检查的同一个请求，并且运行在你自己的提供商账号上。
从你的需求出发。
自托管开源软件，无需与销售沟通
留在你已在使用的云平台之内
Cloudflare AI Gateway, Vercel AI Gateway, Amazon Bedrock, Azure AI Gateway
从零成本起步
在同一份余额下提供最广的目录，由平台代为购买推理服务
追踪、评估和提示词管理，请求路径上没有网关
以运行时 AI 安全为主要需求
你自己的提供商账号、在调用之前就拒绝请求的预算，以及按你协商价计算的成本，对模型支出的加价为 0%
你自行运行的开源网关
由你自己部署和运维的代理，提供商密钥保存在你自己的基础设施中。
你自己托管的开源 LLM 网关
INFRO 对比 LiteLLM
LiteLLM 是使用最广泛的开源 LLM 网关之一：一个 Python SDK 和一个自托管、兼容 OpenAI 的代理，可访问 100 多家提供商，具备虚拟密钥、按密钥、用户、团队和终端用户设置的预算、负载均衡和回退、支出追踪、缓存、护栏集成和日志回调。核心采用 MIT 许可；组织、审计日志和部分管理控制则属于商业企业许可。如果你想自己运行网关，它是默认之选，也当之无愧。.
阅读对比
你自己托管的开源 AI 网关
INFRO 对比 Bifrost
Bifrost 是 Maxim AI 的开源 AI 网关，采用 Apache-2.0 许可，设计为自托管。它的开源版本包含的内容比大多数网关放在付费层级的还要多：带美元预算的虚拟密钥，以及密钥、团队和客户级别的速率限制；覆盖 20+ 家提供商的回退和加权负载均衡；语义缓存；带按密钥工具允许列表的 MCP 网关；OpenTelemetry；以及用于你自己费率的价格覆盖。护栏、SSO、基于角色的访问、审计日志、集群和 VPC 内部署则属于其企业版。如果你想要一个功能完备、自己运行且无需许可费用的网关，它是一个认真的选择。.
阅读对比
云平台内置的网关
附带一个你可能已经拥有的账号的 AI 网关。
Cloudflare 开发者平台上的 AI 网关
INFRO 对比 Cloudflare AI Gateway
Cloudflare AI Gateway 在 23 家提供商及其自家的 Workers AI 前面放置了一个代理，其核心——分析、日志、缓存和速率限制——在任何 Cloudflare 账号上都是免费的。到 2026 年，它已经远不只是一个代理：在调用提供商之前评估的美元支出限制——对有已知定价的模型，也会计入你自己密钥上的请求——按身份归因的支出、自定义元数据、带版本化部署和即时回滚的可视化路由构建器、OpenTelemetry 导出，以及双向的护栏和数据防泄漏。如果你的流量本来就经过 Cloudflare，采用它只需一个下午，别无其他成本——对很多团队来说，评估到这里就可以结束，这也是对本页坦率的总结。.
阅读对比
Vercel 平台上的 AI 网关
INFRO 对比 Vercel AI Gateway
Vercel AI Gateway 是跨越大型模型目录的单一端点，内置于 Vercel 平台和 AI SDK。它不对 token 加价，通过自己的 AI Gateway Credits 销售模型访问权限，其中部分模型有免费层，并提供按团队、项目、密钥和成员划分的预算、可观测性、零数据保留路由和区域推理。对于在 Vercel 上部署并使用 AI SDK 编写代码的团队，这是从零到可用模型调用的最短路径，这是一项实实在在的优势，而不仅仅是方便。.
阅读对比
AWS 上的托管模型服务
INFRO 对比 Amazon Bedrock
Amazon Bedrock 在 AWS 内运行来自众多厂商的模型，使用 AWS 的身份、网络和计费。围绕这些模型，它带有一套许多团队拿来当作网关使用的治理能力：跨区域推理配置文件、通过应用推理配置文件和 Projects 实现的成本分配标签、Bedrock Guardrails、按模型的 IAM 策略，以及模型调用日志。对于运行在 AWS 上、希望模型支出出现在 AWS 账单里的公司来说，这里是自然的归宿，对其中许多公司而言，评估到这里就可以结束。.
阅读对比
Azure API Management 和 Microsoft Foundry 中的 AI 网关
INFRO 对比 Azure AI Gateway
Azure 的 AI 网关是 Azure API Management 中的一组 AI 能力，也可以从 Microsoft Foundry 为其中的模型部署开启。它位于 Foundry 和 Azure OpenAI、其他提供商的 OpenAI、Anthropic 和 Vertex 形态的 API、自托管模型、MCP 服务器和智能体 API 之前，并对它们应用 APIM 策略：每个密钥的每分钟 token 限制和 token 配额、语义缓存、Azure AI Content Safety 检查、带熔断器的加权和优先级负载均衡，以及 Azure Monitor 中的 token 指标。对于已经运行 API Management 的企业，它延伸的是平台团队今天就在运维的网关，这一点很难超越。.
阅读对比
统一模型 API 和路由器
一个端点、一个密钥访问众多模型，通常由平台代为购买推理服务。
统一模型 API 和路由器
INFRO 对比 OpenRouter
OpenRouter 是最知名的 AI 模型统一端点：一个 API 密钥即可访问 500+ models, 80+ providers，支持在它们之间路由和回退，现在除文本外还提供图像、视频、语音和转写的专用端点。它是成熟、被广泛使用的产品，也是这一类别中最接近默认选择的产品。Stripe 已同意收购 OpenRouter（2026-08-19 宣布）；截至 2026-10-24，Stripe 的文章描述的仍是一项协议，而非已完成的交易。.
阅读对比
LLM 路由器和网关
INFRO 对比 Requesty
Requesty 是兼容 OpenAI 的路由网关：一个端点覆盖数百个模型，具备回退、负载均衡和基于延迟的路由策略、自动缓存、按团队、用户和密钥设置的预算、针对 PII 和密钥的护栏、已批准模型列表，以及响应中的每请求成本。你可以按模型使用 Requesty 的密钥或你自己的密钥。它与 INFRO 的重合程度比这份清单中大多数产品都更高——分歧在于范围，而不在于路由是否值得做。.
阅读对比
企业 AI 平台和 API 网关
作为更广泛平台一部分的 AI 网关：API 管理、安全或 MLOps。
Palo Alto Networks 的 Prisma AIRS 安全平台中的 AI 网关
INFRO 对比 Prisma AIRS AI Gateway (Portkey)
Portkey 现在以 Prisma AIRS AI Gateway 的名称发布：Palo Alto Networks 于 2026 年 5 月完成收购，并将该网关纳入其 Prisma AIRS AI 安全平台。它是一款成熟、被广泛部署的 AI 网关，拥有非常庞大的模型目录、仍可自托管的 MIT 许可开源网关、提示词管理，以及属于这一类别中最强之列的安全界面——护栏和 PII 脱敏。如果推动你评估的需求是保护和治理 AI 模型允许接收和返回的内容，它是认真的答案，你应该仔细研究。.
阅读对比
API 网关上的 AI 插件
INFRO 对比 Kong AI Gateway
Kong AI Gateway 把 AI 流量引入 Kong Gateway——部署最广泛的 API 网关之一：对主要提供商的模型与提供商抽象、它们之间的负载均衡和故障转移、语义缓存、基于 token 和成本的速率限制、提示词防护、PII 清理、云护栏集成以及 MCP 工具——全部作为策略运行在已经承载公司 API 的同一个运行时上。如果你的平台团队今天就在运行 Kong，把 AI 流量加进去只是一次配置变更，而不是引入新的供应商，这是一个很强的优势。.
阅读对比
带 AI 网关的企业 AI 平台
INFRO 对比 TrueFoundry
TrueFoundry 是一个企业 AI 平台：除了模型部署与服务、微调和智能体工具之外，还有 AI 网关、MCP 网关和智能体网关，可作为 SaaS、混合部署、部署在你自己的云中、本地或物理隔离环境中。它的网关可以单独使用，覆盖聊天、嵌入、图像、音频、重排序和实时领域的 1000+ 个模型，具备路由、预算、包括提示词注入检查在内的护栏、语义缓存、提示词管理和 RBAC。对于希望在自身边界内用一个平台既托管模型又治理对模型调用的企业，它非常合适。.
阅读对比
欧盟打造、带 AI 网关的 AI 平台
INFRO 对比 Orq.ai
Orq.ai 是一个在阿姆斯特丹构建的企业 AI 平台：除了 AI Studio 的提示词管理、评估器、实验、知识库和托管智能体之外，还有 AI 网关和 MCP 网关，以及处于抢先体验阶段、由智能体驱动的 Software Factory。它的网关可通过 Orq 自己的积分或你的提供商密钥访问 30+ 家提供商，具备路由规则、回退、负载均衡、精确匹配缓存、护栏以及六个层级的预算。默认托管在欧盟，可部署在你自己的 AWS 或 Azure 账号中，也可通过单个 Helm chart 本地部署，或物理隔离部署。对于希望在自身边界内用一个平台构建、评估和治理 AI 应用的欧洲企业，它非常合适。.
阅读对比
可观测性与评估
记录并评估你的应用做了什么的工具，位于请求旁边，而不是请求之中。
开源 LLM 可观测性和评估
INFRO 对比 Langfuse
Langfuse 是一个用于追踪、评估和改进 LLM 应用的开源平台：贯穿模型调用、工具和检索的嵌套追踪，带版本和标签的提示词管理，LLM-as-a-judge 和人工评估，数据集和实验，以及质量、成本和延迟的仪表盘。除企业目录之外，它采用 MIT 许可，可以在 Docker、Kubernetes 或 Terraform 上自托管，自 2026 年 1 月起成为 ClickHouse 的一部分，路线图保持不变。它记录你的应用做了什么；它不在请求路径上，因此不会路由、故障转移或拒绝请求。.
阅读对比
LLM 可观测性
INFRO 对比 Helicone
Helicone 是一个面向 LLM 应用的开源可观测性平台，涵盖日志、追踪、成本跟踪、评估、提示词管理和网关；对于已经在使用它的团队，它能很好地回答 AI 应用正在做什么这个问题。但新团队目前无法采用它：其云端注册页面显示注册已关闭。Mintlify 于 2026 年 3 月宣布收购 Helicone 并将其置于维护模式；2026 年 10 月，Helicone 的首页改为声明它不再属于 Mintlify，详情将另行公布。目前没有任何关停的公告，因此已在使用它的团队可以按自己的节奏选择迁移目标，而不是在期限压力下行动。.
阅读对比
这是我们对各产品公开文档的解读，截至 2026年10月。我们不引用竞争对手的价格——他们的价格会变，对别人的业务给出一个错误的数字，不如不给。认为某一行有误？请告诉我们，我们会更正。
差异真正在哪里。
这些产品大多能做路由、日志和费用跟踪，其中几个也支持你自己的提供商密钥。真正的区别在于：谁持有提供商账号、入门套餐包含什么、哪些还没有做出来。以下是我们对每个产品公开文档的理解——如果哪里读错了，告诉我们，我们会修正那一行。
| 产品 | 成本归属 | 成本归因 | 入门套餐中的治理功能 | 运行时 AI 安全 |
|---|---|---|---|---|
| Cloudflare AI Gateway | 你自己的密钥，或它们的积分是 | 元数据和身份是 | 部分按网关划分；账号角色 | 护栏和 DLP是 |
| OpenRouter | 部分默认使用积分；BYOK 需付费 | 部分 | 工作区、成员和密钥预算是 | 否 |
| Helicone维护模式；已关闭注册 | 你自己的账号是 | 按用户和自定义属性是 | 部分 | 否 |
| Portkey / Prisma AIRS | 你自己的账号是 | 按元数据是 | 部分 | 它们的专长是 |
| Requesty | 部分对模型成本加价；可使用 BYOK | 部分 | 部分 | 否 |
| INFRO | 模型支出的 0%是 | 项目、密钥、终端用户是 | 所有套餐都有预算、允许列表和审计；SSO 从 Business 起提供是 | 部分模式匹配和分类器护栏，Business 套餐 |
这是我们对各产品公开文档的解读，截至 2026年10月13日。我们不引用竞争对手的价格——他们的价格会变，对别人的业务给出一个错误的数字，不如不给。自 2026 年 3 月起，Helicone 在 Mintlify 旗下处于维护模式，并已停止接收新客户；它仍保留在表格中，因为已经在使用它的团队最有可能在阅读这里。INFRO 一行描述的是其首个版本。认为某个标记有误？请告诉我们，我们会更正。
买家常问的问题。
本页每个产品都已作答，依据为 2026年10月 阅读的公开文档。
什么是 AI 网关？
位于你的应用与它所调用的 AI 模型提供商之间的一项服务。你的代码把请求发送到同一个端点，网关负责选择提供商，在某个提供商宕机时重试或故障转移，记录每个请求做了什么、花了多少钱，并执行你设定的各项策略——预算、允许使用的模型、速率限制。各类产品的主要区别在于：提供商账号由谁持有，策略是在调用之前强制执行还是在调用之后才报告，以及网关由你运行还是由厂商运行。
使用网关时，由谁向 AI 提供商付费？
这取决于产品，也是首先要核实的一点。有些平台用你在其上充值的余额替你购买推理服务；有些则使用你自己的提供商密钥进行路由，有时会对这部分用量收取费用；还有些两种都提供。INFRO 只提供第二种，并且不收取任何费用：你的提供商按你自己的费率直接向你收费，INFRO 收取的是订阅费。上方表格中的“成本归属”一列是我们对各产品文档的解读。
如何设置在 API 调用之前就生效的 AI 预算上限？
你需要在请求路径上放置一个组件，因为限额只能拒绝它在提供商之前看到的请求。有几款网关能做到这一点——INFRO 在调用之前按组织、项目、成员和密钥检查预算；OpenRouter、Cloudflare AI Gateway 和 LiteLLM 在文档中也介绍了各自的预算或支出限额。像 Langfuse 这样的可观测性工具在调用之后记录成本，并可据此告警，这很有用，但它们不会拦下请求。
哪些工具会显示每个 LLM 请求的成本？
本页几乎所有产品都会按请求估算成本。真正拉开差距的是这几个问题：估算采用哪种费率（厂商的公开价，还是你合同中的费率），模型没有已知价格时怎么办，以及这个数字是否会与提供商自己的账单核对。INFRO 从 Team 套餐起使用你的协商价，对没有价格的请求标记为未定价而不是猜测，并在 Business 套餐中，将当月估算与 OpenAI 和 Anthropic 的成本 API 进行核对。
我需要同时使用可观测性工具和网关吗？
不一定。如果路由和提供商接入已经解决，也没有人需要会拒绝请求的预算，那么像 Langfuse 这样的可观测性和评估工具可能就够了。如果你需要路由、故障转移和强制执行的预算，就需要网关；同时还想要深入评估和提示词管理的团队，通常两者都用，由网关把追踪记录导出到可观测性工具。
这些对比是怎么做出来的？
依据每款产品的公开文档整理，以各页面注明的日期为准——不来自试用或基准测试。每个页面都会直说对方产品在何时是更好的选择，不引用任何竞争对手的价格；文档含糊之处，我们会放宽标记而不是强行下结论。如果你认为某一行有误，请告诉我们，我们会更正。
关于这些问题的实战指南
- Best AI gateways in 2026: which one fits which team
- Best AI gateway for enterprise teams in 2026
- Best AI gateway for startups in 2026
- AI cost management for finance teams
- Best AI platforms for creative teams in 2026
- Best AI routing services in 2026
- AI governance platforms compared: program vs runtime
- Do AI gateways reduce API costs?
- AI gateway pricing models: markup, fees, requests, subscription
- Managing AI API costs across OpenAI, Anthropic and Google
- LLM spend limits compared
- How to see the cost of every LLM request
- Do solo founders need an AI gateway?
INFRO 在每个阶段覆盖什么。
生产团队在模型调用周围需要的六样东西，以及 INFRO 目前在每一项上做了什么。
01连接
你已拥有的提供商账号，置于一个 OpenAI 兼容 API 和有作用范围的网关密钥之后。
02路由
路由规则对其目标进行排序或加权；当某个目标在响应开始前超时或出错时，由下一个健康的目标提供服务。
03观测
每个请求都保留其提供商、连接、尝试次数、延迟、token 和预估提供商费用，按项目和密钥区分。
04优化
按厂商公开价或你的协商价计算的预估支出，预算可在超出限额时发出提醒或拒绝请求。
05治理
角色、模型允许列表，以及记录谁更改了密钥、策略或成员的审计日志。
06扩展
跨团队的项目和席位，Business 套餐起提供单点登录和目录同步，需要时还可签订企业协议。
在 INFRO 中，这些是同一条请求记录：被路由的请求，就是被追踪、计价并按策略检查的那个请求，因此不需要再和第二套系统对账。