Naar de inhoud

MigratiegidsenVanaf TrueFoundry

Vanaf TrueFoundry AI Gateway

De AI Gateway van TrueFoundry draait op provideraccounts die je registreert, zoals INFRO, en voegt virtuele modellen, caching, budgetten en guardrails toe, geconfigureerd met x-tfy-*-headers en gatewaypolicies. Het meeste ervan wordt vertaald naar INFRO; het platform eromheen (modeldeployment, agents, Seldon) niet.

Onafhankelijk; nam Seldon AI over (2026-06-24); BYOK AI Gateway, SaaS of zelf gehost op Enterprise

INFRO-accounts zijn selfservice. De catalogus, de documentatie en het API-contract zijn openbaar, de gateway is uitgerold, en alles na v1 is gemarkeerd als Later. Plannen en proefperiode

Hoe het ervoor staat

Bedrijf

Onafhankelijk. Het maakte op 2026-06-24 de overname van Seldon AI bekend.

Recente wijzigingen

De globale Routing Config is op 2026-06-15 verwijderd ten gunste van Virtual Models; functiebeperking per plan ging in op 2026-09-22 (v0.174.0).

Wiens account het verzoek bedient

De jouwe: klanten registreren modelaccounts, en de prijspagina van TrueFoundry zegt dat het nooit een opslag op tokens zet.

TrueFoundry is een platform, niet alleen een gateway. Blijf als je het platform gebruikt.

  • Je deployt en bedient je eigen modellen op TrueFoundry, of gebruikt de agent- en Seldon-tooling. INFRO routeert alleen naar modellen; het host ze niet.
  • Je draait de gateway in je VPC of on-premises. INFRO is gehost; zelf gehost is een enterprise-overeenkomst.
  • Je gebruikt semantische caching, routering op latentie of complexiteit, of budgetten op willekeurige metadata.
  • Je stuurt Batch- of Files API-verkeer door de gateway.

De wijzigingen, één rij per wijziging. Alles wat hier niet staat, blijft zoals het is.

 TrueFoundryINFRO
Basis-URLhttps://gateway.truefoundry.ai of je zelf gehoste gateway.https://api.infro.io/v1
SleutelEen Personal Access Token of een Virtual Account Token.Een INFRO-gatewaysleutel per dienst; leden melden zich apart aan bij de console.
Model-IDopenai-main/gpt-5.6-terra (modelaccount / model), of de naam van een virtueel model.openai/gpt-5.6-terra, of een route met de naam van het virtuele model.
HeadersX-TFY-METADATA, x-tfy-cache-config, x-tfy-retry-config, x-tfy-request-id.metadata in de body; cache voor de responscache; nieuwe pogingen op de route; X-INFRO-Trace-Id.

Voor · TrueFoundry

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://gateway.truefoundry.ai",
  apiKey: process.env.TFY_API_KEY,
  defaultHeaders: {
    "X-TFY-METADATA": JSON.stringify({ user_id: "user_123" }),
  },
});

await client.chat.completions.create({
  model: "openai-main/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
});

Na · INFRO

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
  // @ts-expect-error INFRO extension
  metadata: { user_id: "user_123", tags: { feature: "chat" } },
});

Virtuele modellen worden routes

Virtuele modellen op prioriteit en op gewicht worden routes op prioriteit en gewicht; fallback_status_codes en retry_config worden de faalregels van de route.

Modelaccounts worden verbindingen

De credential van elk modelaccount wordt een verbinding. Meerdere accounts van één provider kunnen in één route staan, of worden verdeeld met reservesleutels als laatste.

Metadata in de body

X-TFY-METADATA is een JSON-header; metadata van INFRO is een bodyveld met user_id, session_id en een tags-map.

De objecten van TrueFoundry tegenover die van INFRO, op basis van de openbare documentatie van TrueFoundry gelezen op 19 oktober 2026 en getoetst aan wat de gateway implementeert. Twee rijen zeggen dat INFRO niets heeft.

TrueFoundryWat het daar doetIn INFRO
Modelaccountszelfde vormGeregistreerde providercredentials, prefix van het model-ID.Providerverbindingen, meerdere sleutels per provider.
PAT's en Virtual Account Tokenszelfde vormGebruikers- en servicecredentials voor de gateway.Gatewaysleutels per dienst met allowlists, IP-bereiken, omgevingen en uitgavenlimieten.
Virtuele modellenandersRoutering op gewicht, prioriteit, latentie of complexiteit over doelen.Routes op prioriteit en gewicht, if-regels en een promptclassifier. Geen routering op latentie.
CachingandersExact-match en semantische responscache.Alleen exact-match.
Budget LimitingandersPlafonds per tenant, team, gebruiker, model, virtual account of metadata; blokkeren of waarschuwen.Budgetten per organisatie, project, lid, sleutel en eindklant; blokkeren met 402 of waarschuwen bij drempels. Niet op willekeurige metadata.
GuardrailsandersBenoemde guardrailpolicies per verzoek.Guardrailregels ingesteld per organisatie, project of sleutel.
MCP Gatewayzelfde vormMCP-servers, virtuele MCP-servers, goedkeuring van tools.Een MCP-gateway met goedgekeurde en vastgepinde tools en toekenningen per sleutel.
Batch en FilesnietsVia de gateway met x-tfy-provider-name.Niet bediend.
ModelservingnietsJe eigen modellen op het platform deployen.Niets. Koppel een zelf gehoste modelserver als openai-compatible-verbinding.

Onze lezing van de gepubliceerde documentatie van TrueFoundry, geen proefperiode of benchmark. Als we iets verkeerd hebben gelezen, laat het ons weten en we passen de rij aan.

Wat INFRO niet doet

  • Modellen hosten of deployen.
  • Semantische caching, of routering op latentie.
  • Budgetten op basis van willekeurige request-metadata.
  • Batch- en Files-API's.
  • Draaien in je VPC zonder enterprise-overeenkomst.

Wat niet meekomt

  • Verzoeklogs en metrics. Er is geen importer.
  • Virtuele modellen, budgetten en guardrailpolicies als objecten. Maak ze opnieuw aan.

Vragen

Is TrueFoundry ook BYOK?
Ja. Beide draaien op provideraccounts die je zelf hebt; geen van beide zet een opslag op tokens.
Wat vervangt virtuele modellen?
INFRO-routes: stuur de naam van de route als model, en de doelen en faalregels ervan bepalen waar het verzoek heen gaat.
Wat kost INFRO?
Een vast abonnement per plan, met een proefperiode van 14 dagen. Je providers factureren je rechtstreeks voor modelgebruik.

Overstappen met ons, of zelf

Het migratieprogramma brengt je TrueFoundry-setup in een gesprek in kaart naar INFRO-verbindingen, -routes en -budgetten en verhuist de eerste service samen met je. Je providers blijven je rechtstreeks factureren; INFRO is een abonnement en voegt 0% toe aan modeluitgaven.

Probeer 14 dagen Plan een migratiesessieINFRO vs TrueFoundryLees de quickstart

Bronnen

Elke uitspraak op deze pagina over TrueFoundry komt uit een van deze bronnen, gelezen op 19 oktober 2026. Niets is afgeleid uit een proefperiode, een benchmark of een gesprek.