Pular para o conteúdo

Guias de migraçãoVindo do TrueFoundry

Do TrueFoundry AI Gateway

O AI Gateway do TrueFoundry roda nas contas de provedor que você registra, como o INFRO, e acrescenta modelos virtuais, cache, orçamentos e guardrails, configurados por headers x-tfy-* e políticas do gateway. A maior parte corresponde ao INFRO; a plataforma em torno dele (deploy de modelos, agentes, Seldon) não.

Independente; adquiriu a Seldon AI (2026-06-24); AI Gateway BYOK, SaaS ou auto-hospedado no Enterprise

As contas do INFRO são self-service. O catálogo, a documentação e o contrato da API são públicos, o gateway está implantado, e tudo o que vai além da v1 está marcado para depois. Planos e teste

Situação atual

Empresa

Independente. Anunciou a aquisição da Seldon AI em 2026-06-24.

Mudanças recentes

A Routing Config global foi removida em 2026-06-15 em favor dos Virtual Models; o controle de recursos por plano entrou em vigor em 2026-09-22 (v0.174.0).

A conta de quem atende a requisição

Você: os clientes registram contas de modelo, e a página de preços do TrueFoundry diz que ele nunca aplica margem sobre tokens.

O TrueFoundry é uma plataforma, não apenas um gateway. Fique se você usa a plataforma.

  • Você faz deploy e serve seus próprios modelos no TrueFoundry, ou usa as ferramentas de agentes e Seldon dele. O INFRO apenas roteia para modelos; não os hospeda.
  • Você roda o gateway na sua VPC ou on-premises. O INFRO é hospedado; auto-hospedado é um contrato enterprise.
  • Você usa cache semântico, roteamento por latência ou complexidade, ou orçamentos com chave em metadados arbitrários.
  • Você envia tráfego de Batch ou da Files API pelo gateway.

As alterações, uma linha cada. Tudo o que não está listado aqui continua como está.

 TrueFoundryINFRO
URL basehttps://gateway.truefoundry.ai ou o seu gateway auto-hospedado.https://api.infro.io/v1
ChaveUm Personal Access Token ou um Virtual Account Token.Uma chave do gateway do INFRO por serviço; os membros entram no console separadamente.
Id do modeloopenai-main/gpt-5.6-terra (conta de modelo / modelo), ou o nome de um modelo virtual.openai/gpt-5.6-terra, ou uma rota com o nome do modelo virtual.
HeadersX-TFY-METADATA, x-tfy-cache-config, x-tfy-retry-config, x-tfy-request-id.metadata no corpo; cache para o cache de respostas; novas tentativas na rota; X-INFRO-Trace-Id.

Antes · TrueFoundry

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://gateway.truefoundry.ai",
  apiKey: process.env.TFY_API_KEY,
  defaultHeaders: {
    "X-TFY-METADATA": JSON.stringify({ user_id: "user_123" }),
  },
});

await client.chat.completions.create({
  model: "openai-main/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
});

Depois · INFRO

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
  // @ts-expect-error INFRO extension
  metadata: { user_id: "user_123", tags: { feature: "chat" } },
});

Modelos virtuais viram rotas

Modelos virtuais baseados em prioridade e em peso correspondem a rotas por prioridade e ponderadas; fallback_status_codes e retry_config correspondem às regras de falha da rota.

Contas de modelo viram conexões

A credencial de cada conta de modelo vira uma conexão. Várias contas de um mesmo provedor podem ficar em uma rota, ou ter a carga distribuída entre elas, com as chaves reserva por último.

Metadados no corpo

X-TFY-METADATA é um header JSON; o metadata do INFRO é um campo do corpo com user_id, session_id e um mapa tags.

Os objetos do TrueFoundry comparados aos do INFRO, a partir da documentação pública do TrueFoundry lida em 19 de outubro de 2026 e conferidos com o que o gateway implementa. Duas linhas dizem que o INFRO não tem nada.

TrueFoundryO que faz láNo INFRO
Contas de modelomesmo formatoCredenciais de provedor registradas, prefixo do id do modelo.Conexões de provedor, várias chaves por provedor.
PATs e Virtual Account Tokensmesmo formatoCredenciais de usuário e de serviço para o gateway.Chaves do gateway por serviço com listas de permissões, faixas de IP, ambientes e limites de gastos.
Modelos virtuaisdiferenteRoteamento por peso, prioridade, latência ou complexidade entre destinos.Rotas por prioridade e ponderadas, regras if e um classificador de prompts. Sem roteamento por latência.
CachediferenteCache de respostas por correspondência exata e semântico.Apenas correspondência exata.
Budget LimitingdiferenteLimites por tenant, equipe, usuário, modelo, conta virtual ou metadados; bloquear ou avisar.Orçamentos por organização, projeto, membro, chave e cliente final; bloqueiam com 402 ou alertam em limiares. Não por metadados arbitrários.
GuardrailsdiferentePolíticas de guardrails nomeadas por requisição.Regras de guardrails configuradas por organização, projeto ou chave.
MCP Gatewaymesmo formatoServidores MCP, servidores MCP virtuais, aprovação de ferramentas.Um gateway MCP com ferramentas aprovadas e fixadas e permissões por chave.
Batch e FilesnadaPelo gateway, com x-tfy-provider-name.Não atendido.
Serving de modelosnadaImplantar seus próprios modelos na plataforma.Nada. Conecte um servidor de modelos auto-hospedado como uma conexão openai-compatible.

Nossa leitura da documentação publicada do TrueFoundry, não um teste nem um benchmark. Se lemos algo errado, avise-nos e corrigimos a linha.

O que o INFRO não faz

  • Hospedar ou implantar modelos.
  • Cache semântico ou roteamento por latência.
  • Orçamentos baseados em metadados arbitrários da requisição.
  • APIs Batch e Files.
  • Rodar na sua VPC sem contrato enterprise.

O que não é levado

  • Logs de requisições e métricas. Não há importador.
  • Modelos virtuais, orçamentos e políticas de guardrails como objetos. Recrie-os.

Perguntas

A TrueFoundry também é BYOK?
Sim. Ambos rodam em contas de provedor que você mantém; nenhum aplica margem sobre tokens.
O que substitui os modelos virtuais?
Rotas do INFRO: envie o nome da rota como model, e os destinos e as regras de falha dela decidem para onde a requisição vai.
Quanto custa o INFRO?
Uma assinatura fixa por plano, com teste de 14 dias. Seus provedores cobram você diretamente pelo uso de modelos.

Migre conosco ou por conta própria

O programa de migração mapeia, numa chamada, a sua configuração do TrueFoundry para conexões, rotas e orçamentos do INFRO e migra o primeiro serviço com você. Seus provedores continuam cobrando você diretamente; o INFRO é uma assinatura e acrescenta 0% ao gasto com modelos.

Teste de 14 dias Agende uma sessão de migraçãoINFRO vs TrueFoundryLer o guia de início rápido

Fontes

Cada afirmação desta página sobre o TrueFoundry vem de uma destas fontes, lidas em 19 de outubro de 2026. Nada é inferido de um teste, de um benchmark ou de uma conversa.