跳到正文

欧盟打造、带 AI 网关的 AI 平台

INFRO vs Orq.ai

Orq.ai 是一个在阿姆斯特丹构建的企业 AI 平台:除了 AI Studio 的提示词管理、评估器、实验、知识库和托管智能体之外,还有 AI 网关和 MCP 网关,以及处于抢先体验阶段、由智能体驱动的 Software Factory。它的网关可通过 Orq 自己的积分或你的提供商密钥访问 30+ 家提供商,具备路由规则、回退、负载均衡、精确匹配缓存、护栏以及六个层级的预算。默认托管在欧盟,可部署在你自己的 AWS 或 Azure 账号中,也可通过单个 Helm chart 本地部署,或物理隔离部署。对于希望在自身边界内用一个平台构建、评估和治理 AI 应用的欧洲企业,它非常合适。

何时 Orq.ai 是更好的选择
  • 你想在治理 AI 的同一个平台上构建 AI 应用:托管提示词、评估器、数据集和实验、知识库以及智能体。Orq 的 AI Studio 覆盖这一生命周期。INFRO 不构建其中任何一项,而是位于你所用的任何工具之下。
  • 数据处理必须留在欧盟,或平台必须运行在你自己的云账号、本地或物理隔离环境中。Orq 默认托管在欧盟,并在文档中介绍了这三种部署方式。INFRO 是托管服务;它的网关与数据库一同运行在法兰克福,这并不构成数据驻留控制,自托管或混合部署需要在企业协议下进行专项工程——目前没有为此打包任何内容。
  • 你希望平台为部分工作负载提供推理资金,同时用你自己的密钥服务其他负载,且在同一个账号下。Orq 两者都提供。INFRO 只会路由到你持有的提供商账号。
  • 在这项决策中,护栏的分量比支出控制更重:密钥检测、由模型按你编写的标准评判请求或响应、自定义 Python 检查,以及外部策略引擎。INFRO 的护栏是对聊天内容的模式匹配和提示词分类器,在 Business 套餐中提供。

这一节不是客套。如果其中某一条说的正是你,请选择 Orq.ai——一个听了我们的建议却用错了这一层的客户,对我们来说比从未成为客户更糟。

两者真正的分歧所在。

用来构建 AI 的平台,还是用来运营 AI 的控制平面
Orq 的网关是一个更大产品的入口,该产品的任务是构建 AI 应用:提示词、评估、检索、智能体,以及如今的编写软件的智能体。INFRO 不在你的模型之上构建任何东西。它位于你的应用与你已持有的提供商账号之间,整个界面都用于运营这些调用:哪个项目可以调用哪个模型,可以花多少钱,另一家故障时由哪个提供商提供服务,以及请求花了多少——涵盖文本、图像、视频和音频。如果你要为整个 AI 生命周期选择一家供应商,他们的平台更广。如果你的团队已经用自己选定的工具在构建,那么在所有这些之下放一个控制平面是更窄的问题,也正是 INFRO 所解决的问题。
平台收费的对象
Orq 有两种方式。使用 Orq 的积分时,充值需要支付平台费用。使用你自己的密钥时,账单仍由你的提供商开具,路由在每月请求额度内免费,超出后按百分比收费——具体数字请查看他们当前的条款。无论哪种方式,你为路由向 Orq 支付的费用都会随用量上升。INFRO 只有第二种方式,并对模型支出收取 0%:你的提供商按你自己的合同费率向你收费,INFRO 针对控制平面收取公开的订阅费,不随你的模型账单变动。
先是估算成本,再是提供商自己的数字
Orq 根据其目录中按模型存储的每 token 费率计算每个 span 的成本,并自动应用长提示词档位。它的成本追踪文档没有描述如何录入你自己的合同费率,也没有描述与提供商实际账单的核对。INFRO 按公开价估算每个请求,从 Team 套餐起则按你合同中的费率、按模型和提供商估算;在 Business 套餐中,它读取 OpenAI 和 Anthropic 自己的成本 API,把同一天的报告成本与其估算并排存储,并说明差异。没有已知价格时,请求会被标记为未定价,而不会按 $0 计算。
预算在达到限额时会做什么
Orq 的预算分为六个层级——工作区、项目、身份、API 密钥、提供商和模型——所有匹配的预算都会生效,并返回 429 以及指明触发了哪项限额的代码。INFRO 的预算位于组织、项目、成员和密钥层级,并在调用提供商之前返回 402 拒绝;从 Team 套餐起,一个上限即可覆盖你产品的所有终端客户,并给出一个你的应用可以展示给自己用户的拒绝信息。Orq 的提供商和模型层级在 INFRO 中没有对应的预算,INFRO 通过允许列表来设置模型和提供商的访问权限。

并排对比。

我们这一栏也有横线。一方全是勾的对比没人会信,而且理应如此。

能力Orq.aiINFRO
一套 API 访问众多提供商是30+ 家提供商是你所连接的提供商
你自己的提供商账号是BYOK,或 Orq 的积分是每个请求;INFRO 不持有任何凭据
路由、回退和负载均衡是是
会拒绝请求的预算是429;六个层级,包括提供商和模型是调用之前返回 402;组织、项目、成员、密钥
按终端客户设置上限是身份预算是Team 套餐
按你自己的费率估算否目录费率;自定义费率未见文档说明是按组织存储;Team 套餐
与提供商自己的账单对账否部分OpenAI 和 Anthropic,Business 套餐;会说明差异
护栏是PII、密钥、LLM、Python、外部部分聊天内容模式匹配加提示词分类器;Business 套餐
MCP 网关是聚合服务器;OAuth 登录部分代理你自己的服务器;Business 套餐
响应缓存部分精确匹配部分精确匹配,聊天补全
通过网关使用编程智能体是Anthropic Messages API是Messages 和 Responses API
提示词、评估器和实验是AI Studio否未构建
知识库和托管智能体是AI Studio否路由你的智能体的模型调用
图像、视频和音频部分图像和音频;文档未提及视频是各用一种请求格式
默认托管在欧盟是欧盟数据中心否网关位于法兰克福;不构成数据驻留控制
VPC、本地和物理隔离部署是AWS、Azure、Helm、物理隔离部分企业协议;目前未打包
现已可用是是自助注册

这是我们对各产品公开文档的解读,截至 2026年10月。我们不引用竞争对手的价格——他们的价格会变,对别人的业务给出一个错误的数字,不如不给。认为某一行有误?请告诉我们,我们会更正。

算一算这些差异值多少

按你的提供商的公开价,估算你当前的模型组合要花多少、需要哪个套餐;或者让我们读取你的真实用量,告诉你我们在哪些地方能帮上忙、哪些地方帮不上。

已经在用 Orq.ai?阅读从 Orq.ai 迁移的指南:哪些代码要改,哪些可以沿用,哪些不行。