コンテンツへスキップ

移行ガイドLLM Gatewayから

LLM Gatewayから、自社のプロバイダーキーはそのままに

LLM Gateway（llmgateway.io）は、クレジットで支払う独自のプロバイダーアクセス、お客様自身のプロバイダーキー、またはお客様のキーからクレジットへのフォールバックを伴う両方の組み合わせで動きます。BYOKモードを使っているチームは、すでにINFROに最も近い構成です。このページではそのモードの対応関係を示し、INFROが行わないことを率直に説明します。

llmgateway.io。コアはAGPLv3、ライセンス制の`ee/`エディションあり。ホスト型またはセルフホスト

INFROのアカウントはセルフサービスで作成できます。 カタログ、ドキュメント、API仕様は公開済みで、ゲートウェイもデプロイ済みです。v1以降の機能には「今後提供」と表示しています。 プランとトライアル

現状

ライセンス

theopenco/llmgatewayはコアがAGPLv3で、商用機能はee/の別のEnterpriseライセンスの下にあります。api.llmgateway.ioでホストされており、セルフホストも可能です。

リクエストを処理するアカウントの所有者

プリペイドクレジットによる独自のプロバイダーアクセス、お客様のプロバイダーキー（ドキュメントによればゲートウェイの上乗せなし）、またはお客様のキーからクレジットにフォールバックするハイブリッド。

ゲートウェイ以外

ドキュメントには、コーディングプラン、チャットアプリ、プロバイダーポータル、決済SDK、decisions、System Oneのエンドポイントも含まれています。それらはこの対応表には含まれません。

オープンソースで幅広い機能があります。次のいずれかのために使っているなら、そのままにしてください。

  • AGPLのもとでセルフホストしている場合。INFROはホスト型で、セルフホストまたはハイブリッドはエンタープライズ契約になります。
  • 素のモデルIDを使い、価格、稼働率、スループット、レイテンシーでプロバイダーを選ばせている場合、またはautoやsmartによるモデル選択を使っている場合。INFROは価格や速度では選びません。
  • AI SDKアプリがAI Gatewayプロトコルのエンドポイントを使っていて、ベースURLの切り替えだけで済ませたい場合。INFROはそのプロトコルを実装していません。
  • Realtime、OCR、検索を使っている場合、OpenAI、Azure OpenAI、Mistral以外のプロバイダーの埋め込みを使っている場合、または自分のプロバイダーアカウントなしでモデルを利用したい場合。

変更点を1行ずつ。ここにないものはそのままです。

 LLM GatewayINFRO
ベースURLhttps://api.llmgateway.io/v1、またはAI SDKのゲートウェイプロトコル用の/v1/ai。https://api.infro.io/v1
キーLLM Gatewayのキー。INFROのゲートウェイキー。お客様のプロバイダーキーは接続になります。
モデルIDgpt-5.6-terra（ゲートウェイが選択）、openai/gpt-5.6-terra（固定）、auto、dynamic/<name>。openai/gpt-5.6-terra、またはdynamic/<name>の代わりにルート名。
ヘッダーX-LLMGateway-User-ID, X-LLMGateway-Feature, X-No-Fallback, x-no-cache.X-INFRO-User-Id、X-INFRO-Feature。リクエストを1つのプロバイダーに留めるにはrouting.providers。

変更前 · LLM Gateway

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.llmgateway.io/v1",
  apiKey: process.env.LLM_GATEWAY_API_KEY,
  defaultHeaders: {
    "X-LLMGateway-User-ID": "user_123",
    "X-LLMGateway-Feature": "chat",
  },
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
});

変更後 · INFRO

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
  defaultHeaders: {
    "X-INFRO-User-Id": "user_123",
    "X-INFRO-Feature": "chat",
  },
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
});

AI SDKアプリ

ゲートウェイプロバイダーを、@ai-sdk/openaiのcreateOpenAI({ baseURL: "https://api.infro.io/v1", apiKey })に置き換え、.chat(modelId)を呼び出します。モデルIDはvendor/modelのままです。

フェイルオーバーは既定でオン

モデルを指定したリクエストは、そのモデルを提供する接続の間でフェイルオーバーします。X-No-Fallbackや固定したIDと同じように、routing.providers.allowで選んだプロバイダーにとどめられます。

動的ルートはルートになる

各dynamic/<name>フローを、同じターゲットのルートとして作り直してください。プロンプトの種類によるルーティングは、プロンプト分類器でカバーできます。

LLM GatewayのオブジェクトとINFROのオブジェクトの対応。2026年10月19日に読んだLLM Gatewayの公開ドキュメントに基づき、ゲートウェイの実装と照合しています。 INFROにないものは2行あります。

LLM Gatewayそこでの役割INFROでは
プロバイダーキー（BYOK）異なる許可モデル、支出上限、レート制限付きのお客様自身のキー。ハイブリッドでクレジットへフォールバック。キーごとにモデルを指定した接続。他者のアカウントへのフォールバックはありません。
価格、スループット、レイテンシーによるルーティングなし素のIDとrouting戦略がプロバイダーを選びます。ありません。ルートが順序または重みを設定します。
`auto`、`smart`、ダイナミックルート異なるリクエストごと、または名前付きのフローでモデルを選択。ルート。プロンプト分類器が、プロンプトのクラスごとに専用のターゲットへ振り分けます。
APIキーとIAMルール同じ形式キーごとの支出上限と、モデルまたはプロバイダーの許可・拒否。キーごとの支出上限、許可リスト、プロバイダーリスト。さらに4つのスコープで予算。
ゲートウェイのレスポンスキャッシュ同じ形式プロジェクト単位のレスポンスキャッシュ（TTL付き）。x-no-cacheでバイパス。TTLと名前空間付きのオプトインの完全一致キャッシュ。
メタデータヘッダー異なるすべてのX-LLMGateway-*ヘッダー。ボディ内のmetadata、またはX-INFRO-User-Id、X-INFRO-Feature、X-INFRO-Trace-Id。
AI SDKのゲートウェイプロトコルなしベースURLを変えるだけで@ai-sdk/gatewayのアプリに対応。未実装です。AI SDKのOpenAIプロバイダーを使ってください。
ガードレール、監査ログ、SSO同じ形式コンテンツルールとセキュリティイベント。監査ログとSSOはEnterpriseで。ガードレール、監査ログ、そしてBusinessプランからSCIM付きのSSO。
埋め込み、Realtime、OCR、検索異なる提供しています。OpenAI、Azure OpenAI、Mistral、OpenAI互換の接続での埋め込み。Realtime、OCR、検索は提供しません。
セルフホスト異なるAGPLv3のコア、DockerとKubernetes。ホスト型。セルフホスト型またはハイブリッド型はエンタープライズ契約です。Enterprise — セルフサービスではなく、Enterprise契約で提供します。

LLM Gatewayの公開ドキュメントに対する当社の読み取りであり、トライアルやベンチマークではありません。誤りがあればお知らせください。該当する行を修正します。

INFROが行わないこと

  • 価格、稼働率、スループット、レイテンシーでプロバイダーを選ぶこと。
  • Vercel AI Gatewayのプロトコルを実装すること。
  • OpenAI、Azure OpenAI、Mistral、OpenAI互換エンドポイント以外のプロバイダーでの、Realtime、OCR、検索、埋め込みの提供。
  • お客様のものではないアカウントにフォールバックすること。
  • オープンソースライセンスで実行。

引き継がれないもの

  • ログ、分析、費用の履歴。インポーターはありません。
  • LLM Gatewayアカウントのクレジット。
  • オブジェクトとしての動的ルートとIAMルール。ルートと許可リストとして再作成してください。

質問

INFROはLLM Gatewayのように、Vercel AI Gatewayのプロトコルに対応していますか？
いいえ。AI SDKアプリは、@ai-sdk/openaiを通じて、ベースURL https://api.infro.io/v1でINFROを呼び出します。モデルIDは変わりません。
プロバイダーへの支払いは誰が行いますか？
お客様ご自身が、ご自身のアカウントで、プロバイダーへ直接お支払いします。INFROはサブスクリプションで、モデル支出への上乗せは0%です。
INFROはオープンソースですか？
いいえ。INFROはホスト型です。セルフホストまたはハイブリッドのデプロイは、エンタープライズ契約になります。

当社と一緒に、またはご自身で移行

移行プログラムでは、通話でLLM Gatewayの設定をINFROの接続、ルート、予算に対応付け、最初のサービスを一緒に移行します。プロバイダーは引き続きお客様に直接請求し、INFROはサブスクリプションで、モデル利用料への上乗せは0%です。

14日間のトライアルを開始 移行セッションを予約クイックスタートを読む

出典

このページにあるLLM Gatewayについての記述は、すべて2026年10月19日に読んだこれらの資料に基づいています。トライアル、ベンチマーク、会話から推測したものはありません。