欧盟打造、带 AI 网关的 AI 平台
INFRO vs Orq.ai
Orq.ai 是一个在阿姆斯特丹构建的企业 AI 平台:除了 AI Studio 的提示词管理、评估器、实验、知识库和托管智能体之外,还有 AI 网关和 MCP 网关,以及处于抢先体验阶段、由智能体驱动的 Software Factory。它的网关可通过 Orq 自己的积分或你的提供商密钥访问 30+ 家提供商,具备路由规则、回退、负载均衡、精确匹配缓存、护栏以及六个层级的预算。默认托管在欧盟,可部署在你自己的 AWS 或 Azure 账号中,也可通过单个 Helm chart 本地部署,或物理隔离部署。对于希望在自身边界内用一个平台构建、评估和治理 AI 应用的欧洲企业,它非常合适。
何时 Orq.ai 是更好的选择
- 你想在治理 AI 的同一个平台上构建 AI 应用:托管提示词、评估器、数据集和实验、知识库以及智能体。Orq 的 AI Studio 覆盖这一生命周期。INFRO 不构建其中任何一项,而是位于你所用的任何工具之下。
- 数据处理必须留在欧盟,或平台必须运行在你自己的云账号、本地或物理隔离环境中。Orq 默认托管在欧盟,并在文档中介绍了这三种部署方式。INFRO 是托管服务;它的网关与数据库一同运行在法兰克福,这并不构成数据驻留控制,自托管或混合部署需要在企业协议下进行专项工程——目前没有为此打包任何内容。
- 你希望平台为部分工作负载提供推理资金,同时用你自己的密钥服务其他负载,且在同一个账号下。Orq 两者都提供。INFRO 只会路由到你持有的提供商账号。
- 在这项决策中,护栏的分量比支出控制更重:密钥检测、由模型按你编写的标准评判请求或响应、自定义 Python 检查,以及外部策略引擎。INFRO 的护栏是对聊天内容的模式匹配和提示词分类器,在 Business 套餐中提供。
这一节不是客套。如果其中某一条说的正是你,请选择 Orq.ai——一个听了我们的建议却用错了这一层的客户,对我们来说比从未成为客户更糟。
两者真正的分歧所在。
- 用来构建 AI 的平台,还是用来运营 AI 的控制平面
- Orq 的网关是一个更大产品的入口,该产品的任务是构建 AI 应用:提示词、评估、检索、智能体,以及如今的编写软件的智能体。INFRO 不在你的模型之上构建任何东西。它位于你的应用与你已持有的提供商账号之间,整个界面都用于运营这些调用:哪个项目可以调用哪个模型,可以花多少钱,另一家故障时由哪个提供商提供服务,以及请求花了多少——涵盖文本、图像、视频和音频。如果你要为整个 AI 生命周期选择一家供应商,他们的平台更广。如果你的团队已经用自己选定的工具在构建,那么在所有这些之下放一个控制平面是更窄的问题,也正是 INFRO 所解决的问题。
- 平台收费的对象
- Orq 有两种方式。使用 Orq 的积分时,充值需要支付平台费用。使用你自己的密钥时,账单仍由你的提供商开具,路由在每月请求额度内免费,超出后按百分比收费——具体数字请查看他们当前的条款。无论哪种方式,你为路由向 Orq 支付的费用都会随用量上升。INFRO 只有第二种方式,并对模型支出收取 0%:你的提供商按你自己的合同费率向你收费,INFRO 针对控制平面收取公开的订阅费,不随你的模型账单变动。
- 先是估算成本,再是提供商自己的数字
- Orq 根据其目录中按模型存储的每 token 费率计算每个 span 的成本,并自动应用长提示词档位。它的成本追踪文档没有描述如何录入你自己的合同费率,也没有描述与提供商实际账单的核对。INFRO 按公开价估算每个请求,从 Team 套餐起则按你合同中的费率、按模型和提供商估算;在 Business 套餐中,它读取 OpenAI 和 Anthropic 自己的成本 API,把同一天的报告成本与其估算并排存储,并说明差异。没有已知价格时,请求会被标记为未定价,而不会按 $0 计算。
- 预算在达到限额时会做什么
- Orq 的预算分为六个层级——工作区、项目、身份、API 密钥、提供商和模型——所有匹配的预算都会生效,并返回 429 以及指明触发了哪项限额的代码。INFRO 的预算位于组织、项目、成员和密钥层级,并在调用提供商之前返回 402 拒绝;从 Team 套餐起,一个上限即可覆盖你产品的所有终端客户,并给出一个你的应用可以展示给自己用户的拒绝信息。Orq 的提供商和模型层级在 INFRO 中没有对应的预算,INFRO 通过允许列表来设置模型和提供商的访问权限。
并排对比。
我们这一栏也有横线。一方全是勾的对比没人会信,而且理应如此。
| 能力 | Orq.ai | INFRO |
|---|---|---|
| 一套 API 访问众多提供商 | 是30+ 家提供商 | 是你所连接的提供商 |
| 你自己的提供商账号 | 是BYOK,或 Orq 的积分 | 是每个请求;INFRO 不持有任何凭据 |
| 路由、回退和负载均衡 | 是 | 是 |
| 会拒绝请求的预算 | 是429;六个层级,包括提供商和模型 | 是调用之前返回 402;组织、项目、成员、密钥 |
| 按终端客户设置上限 | 是身份预算 | 是Team 套餐 |
| 按你自己的费率估算 | 否目录费率;自定义费率未见文档说明 | 是按组织存储;Team 套餐 |
| 与提供商自己的账单对账 | 否 | 部分OpenAI 和 Anthropic,Business 套餐;会说明差异 |
| 护栏 | 是PII、密钥、LLM、Python、外部 | 部分聊天内容模式匹配加提示词分类器;Business 套餐 |
| MCP 网关 | 是聚合服务器;OAuth 登录 | 部分代理你自己的服务器;Business 套餐 |
| 响应缓存 | 部分精确匹配 | 部分精确匹配,聊天补全 |
| 通过网关使用编程智能体 | 是Anthropic Messages API | 是Messages 和 Responses API |
| 提示词、评估器和实验 | 是AI Studio | 否未构建 |
| 知识库和托管智能体 | 是AI Studio | 否路由你的智能体的模型调用 |
| 图像、视频和音频 | 部分图像和音频;文档未提及视频 | 是各用一种请求格式 |
| 默认托管在欧盟 | 是欧盟数据中心 | 否网关位于法兰克福;不构成数据驻留控制 |
| VPC、本地和物理隔离部署 | 是AWS、Azure、Helm、物理隔离 | 部分企业协议;目前未打包 |
| 现已可用 | 是 | 是自助注册 |
这是我们对各产品公开文档的解读,截至 2026年10月。我们不引用竞争对手的价格——他们的价格会变,对别人的业务给出一个错误的数字,不如不给。认为某一行有误?请告诉我们,我们会更正。
已经在用 Orq.ai?阅读从 Orq.ai 迁移的指南:哪些代码要改,哪些可以沿用,哪些不行。