コンテンツへスキップ

移行ガイドTrueFoundryから

TrueFoundry AI Gatewayから

TrueFoundryのAI Gatewayは、INFROと同じく、登録したプロバイダーアカウントで動作し、x-tfy-*ヘッダーとゲートウェイポリシーで設定する、仮想モデル、キャッシュ、予算、ガードレールを加えます。ほとんどはINFROに対応しますが、周囲のプラットフォーム（モデルのデプロイ、エージェント、Seldon）は対応しません。

独立系。Seldon AIを買収（2026-06-24）。BYOKのAI Gateway、SaaSまたはEnterpriseでセルフホスト

INFROのアカウントはセルフサービスで作成できます。 カタログ、ドキュメント、API仕様は公開済みで、ゲートウェイもデプロイ済みです。v1以降の機能には「今後提供」と表示しています。 プランとトライアル

現状

会社

独立系。2026-06-24にSeldon AIの買収を発表しました。

最近の変更

グローバルなRouting Configは、Virtual Modelsに置き換えられて2026-06-15に削除されました。プランに基づく機能制限は2026-09-22（v0.174.0）に有効になりました。

リクエストを処理するアカウントの所有者

お客様のものです。顧客がモデルアカウントを登録し、TrueFoundryの料金ページでは、トークンに上乗せしないと述べています。

TrueFoundryは、ゲートウェイだけでなくプラットフォームです。プラットフォームを使っている場合は、留まってください。

  • TrueFoundry上で自分のモデルをデプロイして提供している、またはそのエージェントとSeldonのツールを使っている場合。INFROはモデルへルーティングするだけで、ホストはしません。
  • ゲートウェイをVPCまたはオンプレミスで運用している場合。INFROはホスト型で、セルフホストはエンタープライズ契約になります。
  • セマンティックキャッシュ、レイテンシーベースまたは複雑度ベースのルーティング、あるいは任意のメタデータをキーにした予算を使っている場合。
  • ゲートウェイ経由でBatchまたはFiles APIのトラフィックを送っている場合。

変更点を1行ずつ。ここにないものはそのままです。

 TrueFoundryINFRO
ベースURLhttps://gateway.truefoundry.ai、またはお客様のセルフホストのゲートウェイ。https://api.infro.io/v1
キーPersonal Access TokenまたはVirtual Account Token。サービスごとのINFROゲートウェイキー。メンバーは別途コンソールにサインインします。
モデルIDopenai-main/gpt-5.6-terra（モデルアカウント／モデル）、または仮想モデル名。openai/gpt-5.6-terra、または仮想モデルと同じ名前のルート。
ヘッダーX-TFY-METADATA, x-tfy-cache-config, x-tfy-retry-config, x-tfy-request-id.ボディ内のmetadata。レスポンスキャッシュにはcache。再試行はルートで。X-INFRO-Trace-Id。

変更前 · TrueFoundry

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://gateway.truefoundry.ai",
  apiKey: process.env.TFY_API_KEY,
  defaultHeaders: {
    "X-TFY-METADATA": JSON.stringify({ user_id: "user_123" }),
  },
});

await client.chat.completions.create({
  model: "openai-main/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
});

変更後 · INFRO

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
  // @ts-expect-error INFRO extension
  metadata: { user_id: "user_123", tags: { feature: "chat" } },
});

仮想モデルはルートになる

優先度ベースと重みベースの仮想モデルは、優先度付きと重み付きのルートに対応します。fallback_status_codesとretry_configは、ルートの障害ルールに対応します。

モデルアカウントは接続になる

各モデルアカウントの認証情報は接続になります。同じプロバイダーの複数のアカウントを1つのルートに置くことも、待機キーを最後にして分散させることもできます。

ボディ内のメタデータ

X-TFY-METADATAはJSONヘッダーです。INFROのmetadataは、user_id、session_id、tagsマップを持つボディのフィールドです。

TrueFoundryのオブジェクトとINFROのオブジェクトの対応。2026年10月19日に読んだTrueFoundryの公開ドキュメントに基づき、ゲートウェイの実装と照合しています。 INFROにないものは2行あります。

TrueFoundryそこでの役割INFROでは
モデルアカウント同じ形式登録済みのプロバイダー認証情報、モデルIDのプレフィックス。プロバイダー接続。1つのプロバイダーに複数のキー。
PATとVirtual Account Token同じ形式ゲートウェイ用のユーザー認証情報とサービス認証情報。サービスごとのゲートウェイキー。許可リスト、IP範囲、環境、支出上限付き。
仮想モデル異なるターゲットに対する、重み、優先度、レイテンシー、複雑度によるルーティング。優先度付きと重み付きのルート、if-ルール、プロンプト分類器。レイテンシーベースのルーティングはありません。
キャッシュ異なる完全一致とセマンティックのレスポンスキャッシュ。完全一致のみ。
Budget Limiting異なるテナント、チーム、ユーザー、モデル、仮想アカウント、メタデータごとの上限。ブロックまたは警告。組織、プロジェクト、メンバー、キー、エンドカスタマーごとの予算。402でブロックするか、しきい値でアラートを出します。任意のメタデータ単位ではありません。
ガードレール異なるリクエストごとの名前付きガードレールポリシー。組織、プロジェクト、キーごとに設定するガードレールのルール。
MCPゲートウェイ同じ形式MCPサーバー、仮想MCPサーバー、ツールの承認。承認済み・固定済みのツールとキーごとの付与を備えたMCPゲートウェイ。
BatchとFilesなしゲートウェイ経由でx-tfy-provider-nameを使用。提供していません。
モデルのサービングなし自社のモデルをプラットフォームにデプロイすること。ありません。セルフホストのモデルサーバーを、openai-compatibleの接続として接続してください。

TrueFoundryの公開ドキュメントに対する当社の読み取りであり、トライアルやベンチマークではありません。誤りがあればお知らせください。該当する行を修正します。

INFROが行わないこと

  • モデルをホストまたはデプロイすること。
  • セマンティックキャッシュ、またはレイテンシーベースのルーティング。
  • リクエストの任意のメタデータをキーにした予算。
  • BatchとFilesのAPI。
  • エンタープライズ契約なしで、VPC内で実行。

引き継がれないもの

  • リクエストログとメトリクス。インポーターはありません。
  • オブジェクトとしての仮想モデル、予算、ガードレールポリシー。作り直してください。

質問

TrueFoundryもBYOKですか？
はい。どちらも、お客様が保有するプロバイダーアカウントで動作し、トークンに上乗せしません。
仮想モデルの代わりは何ですか？
INFROのルート：ルート名をmodelとして送ると、そのターゲットと障害ルールがリクエストの行き先を決めます。
INFROの料金はいくらですか？
プラン別の定額サブスクリプションで、14日間のトライアル付き。モデル利用料はプロバイダーからお客様に直接請求されます。

当社と一緒に、またはご自身で移行

移行プログラムでは、通話でTrueFoundryの設定をINFROの接続、ルート、予算に対応付け、最初のサービスを一緒に移行します。プロバイダーは引き続きお客様に直接請求し、INFROはサブスクリプションで、モデル利用料への上乗せは0%です。

14日間のトライアルを開始 移行セッションを予約INFRO vs TrueFoundryクイックスタートを読む

出典

このページにあるTrueFoundryについての記述は、すべて2026年10月19日に読んだこれらの資料に基づいています。トライアル、ベンチマーク、会話から推測したものはありません。