跳到正文

带 AI 网关的企业 AI 平台

INFRO vs TrueFoundry

TrueFoundry 是一个企业 AI 平台:除了模型部署与服务、微调和智能体工具之外,还有 AI 网关、MCP 网关和智能体网关,可作为 SaaS、混合部署、部署在你自己的云中、本地或物理隔离环境中。它的网关可以单独使用,覆盖聊天、嵌入、图像、音频、重排序和实时领域的 1000+ 个模型,具备路由、预算、包括提示词注入检查在内的护栏、语义缓存、提示词管理和 RBAC。对于希望在自身边界内用一个平台既托管模型又治理对模型调用的企业,它非常合适。

何时 TrueFoundry 是更好的选择
  • 网关必须在本地或物理隔离环境中运行。TrueFoundry 支持这种部署,并在文档中介绍了在没有直接互联网访问的情况下,让网关运行在正向代理之后;INFRO 是托管服务,自托管或混合部署需要在企业协议下进行专项工程——目前没有为物理隔离运行打包任何内容。
  • 除了调用商业提供商,你还托管并微调自己的模型。TrueFoundry 在你的基础设施上提供模型服务,并在同一个平台上治理对它们的调用;INFRO 不运行任何推理,只路由到你所连接的提供商和端点。
  • 你需要一个托管并发布服务器、把工具组合成虚拟服务器、并给智能体一把密钥访问所有这些的 MCP 平台。INFRO 的 MCP 网关在 Business 套餐中代理你自己运行的 MCP 服务器,不托管任何服务器。
  • 需求中包含语义缓存、提示词管理或最广的模型目录。这些是对方的强项,不是我们的。

这一节不是客套。如果其中某一条说的正是你,请选择 TrueFoundry——一个听了我们的建议却用错了这一层的客户,对我们来说比从未成为客户更糟。

两者真正的分歧所在。

一个需要整体采用的平台,还是建立在你现有付费服务之上的控制平面
TrueFoundry 的网关位于一个更大的平台之内,该平台的主要任务是在你的基础设施上运行 AI 工作负载:部署模型、微调、GPU 容量、智能体。INFRO 不运行任何工作负载。它位于你的应用与你已持有的提供商账号之间,职责是围绕这些调用的运营界面:哪个项目可以调用哪个模型,可以花多少钱,另一家故障时由哪个提供商提供服务,以及请求花了多少。如果你在构建内部 AI 平台,他们的基础更全面。如果你的模型来自已与你签约的提供商,那么为托管而生的平台就超出了问题所需。
先是估算成本,再是提供商自己的数字
两款产品都根据价格目录估算每个请求,也都接受你自己的合同费率——TrueFoundry 称为按模型的 Private Cost,INFRO 则是 Team 套餐起提供的按模型和提供商类型的协商价。TrueFoundry 的成本追踪文档没有描述与提供商实际账单的核对。在 Business 套餐中,INFRO 读取 OpenAI 和 Anthropic 自己的成本 API,把同一天的报告成本与其估算并排存储,并说明差异——因此基于估算建立的预算,在账单到来时也能站得住脚。
预算在达到限额时会做什么
TrueFoundry 的预算规则可按用户、团队、虚拟账户、模型或元数据匹配,超出预算时返回 429,并可运行在只记录和告警的审计模式下。INFRO 的预算位于组织、项目、成员和密钥层级,在调用提供商之前返回 402 拒绝,并在你自己设定的阈值处告警;从 Team 套餐起,一个上限即可覆盖你产品的所有终端客户,并给出一个你的应用可以展示给自己用户的拒绝信息。孰优孰劣无法一概而论——关键在于你的支出归属于人员和团队,还是归属于项目和密钥。
谁来买,怎么买
TrueFoundry 面向基于平台进行构建的企业销售,部署形态按客户逐一商定。INFRO 的四个套餐公开发布,每个都提供完整套餐的 14 天试用,对模型支出收取 0%:你的提供商按你自己的合同就推理向你收费,INFRO 针对控制平面收取订阅费。

并排对比。

我们这一栏也有横线。一方全是勾的对比没人会信,而且理应如此。

能力TrueFoundryINFRO
一套 API 访问众多提供商是1000+ 个模型是你所连接的提供商
路由、重试和故障转移是权重、延迟或优先级是
你自己的提供商账号是是按环境连接
本地部署和物理隔离部署是VPC、本地部署、物理隔离部分企业协议;目前未打包
模型托管和微调是更广泛的平台否路由到你的提供商
会拒绝请求的预算是429;用户、团队、模型、元数据是402;组织、项目、成员、密钥
按你自己的费率估算是按模型的 Private Cost是按组织存储;Team 套餐
与提供商自己的账单对账否部分OpenAI 和 Anthropic,Business 套餐;会说明差异
护栏是PII、提示词注入、内容审核部分聊天内容模式匹配加提示词分类器;Business 套餐
MCP 网关是托管、发布并组合服务器部分代理你自己的服务器;Business 套餐
响应缓存是语义部分精确匹配,聊天补全
提示词管理是否未构建
图像、视频和音频部分图像和音频;文档未提及视频是各用一种请求格式
现已可用是是自助注册

这是我们对各产品公开文档的解读,截至 2026年10月。我们不引用竞争对手的价格——他们的价格会变,对别人的业务给出一个错误的数字,不如不给。认为某一行有误?请告诉我们,我们会更正。

算一算这些差异值多少

按你的提供商的公开价,估算你当前的模型组合要花多少、需要哪个套餐;或者让我们读取你的真实用量,告诉你我们在哪些地方能帮上忙、哪些地方帮不上。

已经在用 TrueFoundry?阅读从 TrueFoundry 迁移的指南:哪些代码要改,哪些可以沿用,哪些不行。