跳到正文

迁移指南从 TrueFoundry

从 TrueFoundry AI Gateway 迁移

TrueFoundry 的 AI Gateway 和 INFRO 一样运行在你注册的提供商账号上，并增加了虚拟模型、缓存、预算和护栏，通过 x-tfy-* 请求头和网关策略进行配置。其中大部分可以对应到 INFRO；围绕它的平台（模型部署、智能体、Seldon）则不能。

独立公司；已收购 Seldon AI（2026-06-24）；BYOK AI Gateway，SaaS 或 Enterprise 版自托管

INFRO 账号可自助开通。 模型目录、文档和 API 契约已公开，网关已部署，v1 之后的所有功能都标注为“后续”。 套餐与试用

现状

公司

独立公司。它于 2026-06-24 宣布收购 Seldon AI。

近期变化

全局 Routing Config 已于 2026-06-15 移除，改用 Virtual Models；基于套餐的功能限制于 2026-09-22 生效（v0.174.0）。

由谁的账号处理请求

归你所有：客户注册模型账号，TrueFoundry 的定价页面称它从不对 token 加价。

TrueFoundry 是一个平台，而不只是网关。如果你在使用这个平台，就继续使用。

  • 你在 TrueFoundry 上部署和提供自己的模型，或使用它的智能体和 Seldon 工具。INFRO 只路由到模型；它不托管模型。
  • 你在 VPC 中或本地运行网关。INFRO 是托管服务；自托管通过企业协议提供。
  • 你使用语义缓存、基于延迟或复杂度的路由，或基于任意元数据的预算。
  • 你通过网关发送 Batch 或 Files API 流量。

需要的修改，每项一行。未在此列出的内容都保持不变。

 TrueFoundryINFRO
基础 URLhttps://gateway.truefoundry.ai 或你自托管的网关。https://api.infro.io/v1
密钥Personal Access Token 或 Virtual Account Token。每个服务一个 INFRO 网关密钥；成员另行登录控制台。
模型 IDopenai-main/gpt-5.6-terra（模型账号 / 模型），或虚拟模型名称。openai/gpt-5.6-terra，或一条与虚拟模型同名的路由规则。
请求头X-TFY-METADATA, x-tfy-cache-config, x-tfy-retry-config, x-tfy-request-id.请求体中的 metadata；响应缓存使用 cache；重试在路由规则上设置；X-INFRO-Trace-Id。

之前 · TrueFoundry

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://gateway.truefoundry.ai",
  apiKey: process.env.TFY_API_KEY,
  defaultHeaders: {
    "X-TFY-METADATA": JSON.stringify({ user_id: "user_123" }),
  },
});

await client.chat.completions.create({
  model: "openai-main/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
});

之后 · INFRO

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
  // @ts-expect-error INFRO extension
  metadata: { user_id: "user_123", tags: { feature: "chat" } },
});

虚拟模型变为路由规则

基于优先级和基于权重的虚拟模型对应到优先级和加权路由规则；fallback_status_codes 和 retry_config 对应到路由规则的故障规则。

模型账号变为连接

每个模型账号的凭据变为一个连接。同一提供商的多个账号可以放在同一条路由规则中，也可以分散使用，备用密钥排在最后。

请求体中的元数据

X-TFY-METADATA 是一个 JSON 请求头；INFRO 的 metadata 是请求体字段，包含 user_id、session_id 和 tags 映射。

TrueFoundry 的对象与 INFRO 的对照，依据 2026年10月19日 阅读的 TrueFoundry 公开文档，并已按网关实际实现的内容核对。 有两行显示 INFRO 没有对应项。

TrueFoundry它在那里的作用在 INFRO 中
模型账号形式相同已注册的提供商凭据，作为模型 ID 的前缀。提供商连接，每个提供商可有多个密钥。
PAT 和 Virtual Account Token形式相同网关的用户凭据和服务凭据。每个服务一个网关密钥，带允许列表、IP 范围、环境和支出限额。
虚拟模型不同在目标之间按权重、优先级、延迟或复杂度路由。优先级和加权路由规则、条件规则，以及提示词分类器。没有基于延迟的路由。
缓存不同精确匹配和语义响应缓存。仅精确匹配。
Budget Limiting不同按租户、团队、用户、模型、虚拟账号或元数据设置上限；拦截或警告。按组织、项目、成员、密钥和终端客户设置的预算；以 402 拦截，或在阈值处提醒。不支持按任意元数据设置。
护栏不同按请求指定的命名护栏策略。按组织、项目或密钥配置的护栏规则。
MCP Gateway形式相同MCP 服务器、虚拟 MCP 服务器、工具审批。MCP 网关，按密钥设置已批准并固定的工具及授权。
Batch 和 Files无对应通过网关使用 x-tfy-provider-name。不提供。
模型服务无对应在平台上部署你自己的模型。无。将自托管的模型服务器作为 openai-compatible 连接接入。

这是我们对 TrueFoundry 已发布文档的理解，而非试用或基准测试。如果我们理解有误，告诉我们，我们会修正那一行。

INFRO 不做的事

  • 托管或部署模型。
  • 语义缓存，或基于延迟的路由。
  • 按任意请求元数据设置的预算。
  • Batch 和 Files API。
  • 在没有企业协议的情况下在你的 VPC 中运行。

哪些无法迁移过来

  • 请求日志和指标。没有导入工具。
  • 作为对象的虚拟模型、预算和护栏策略。需要重建它们。

问题

TrueFoundry 也是 BYOK 吗？
是的。两者都运行在你持有的提供商账号上；都不对 token 加价。
用什么替代虚拟模型？
INFRO 路由规则：将路由规则名称作为 model 发送，由它的目标和故障规则决定请求去向。
INFRO 收费多少？
按套餐收取固定订阅费，提供 14 天试用。模型用量由你的提供商直接向你收费。

和我们一起迁移，或自行迁移

迁移计划会在一次通话中把你的 TrueFoundry 设置映射为 INFRO 的连接、路由规则和预算，并和你一起迁移第一个服务。你的提供商继续直接向你收费；INFRO 是一项订阅，对模型支出零加价。

开始 14 天试用 预约迁移会话INFRO 对比 TrueFoundry阅读快速入门

来源

本页关于 TrueFoundry 的每一项陈述都来自以下来源之一，阅读于 2026年10月19日。没有任何内容是从试用、基准测试或交谈中推断的。