コンテンツへスキップ

移行ガイドKong AI Gatewayから

Kong AI Gatewayから、またはKong AI Gatewayと併用

Kong AI Gatewayは、AIのトラフィックを他のAPIと同じゲートウェイに載せます。ターゲットとバランサーを持つAI Model、上限・キャッシュ・ガードレールのためのAI Policyを、自社のKongデータプレーンまたはKonnectで動かします。他のすべてにKongを使っているなら、それは残る強い理由です。このページは、AIの部分をホスト型のコントロールプレーンにしたいチーム向けです。

AI Gateway 2.x（2026-07-10に2.0、2026-09-30に2.2）。Konnectホスト型またはセルフホスト型

INFROのアカウントはセルフサービスで作成できます。 カタログ、ドキュメント、API仕様は公開済みで、ゲートウェイもデプロイ済みです。v1以降の機能には「今後提供」と表示しています。 プランとトライアル

現状

バージョン2

Kong AI Gatewayは独自にバージョン管理されています。2.0.0は2026-07-10に、2.2.0は2026-09-30にリリースされました。2.xでは、ServiceとRoute上のAI Proxyプラグインが、AI Model、AI Model Provider、AI Policy、AI Auth Strategy、AI Consumer Group、AI MCP Serverというエンティティに置き換わります。

リクエストを処理するアカウントの所有者

お客様のものです。プロバイダーの認証情報はAI Model Providerで宣言され、ゲートウェイが付加します。Kongは推論を販売しません。

運用者

Konnectはコントロールプレーンをホストし、データプレーンは自社のインフラ、Kubernetes、またはKongのDedicated Cloud Gatewaysで動きます。オンプレミス向けのOpenAI SDKのハウツーには、Kong Gateway Enterpriseが必要と記載されています。

Kongは、AI向けのポリシーを深く備えた汎用のAPIゲートウェイです。AIのトラフィックをそこから移すには実際のコストがかかり、次のケースでは見合いません。

  • Kongがすでに自社のAPIの前段にあり、プラットフォームチームが運用している。ゲートウェイも、ポリシーモデルも、オンコールも1つです。
  • トラフィックを自社のデータプレーン上や自社ネットワーク内にとどめる必要がある。INFROのプランはホスト型です。セルフホスト型またはハイブリッド型はエンタープライズ契約です。
  • セマンティックキャッシュ、セマンティックまたは最小レイテンシーのバランサー、プロンプトテンプレート、プロンプト圧縮を使っている。INFROにあるのは完全一致のキャッシュと、優先順位付き・重み付きのルートで、プロンプト用のツールはありません。
  • KongのポリシーによるAWS Guardrails、Azure Content Safety、GCP Model Armor、またはA2Aのトラフィックに依存している。INFROには独自のガードレールがあり、A2Aはありません。
  • ファイル、バッチ、アシスタント、またはOpenAI、Azure OpenAI、Mistral、OpenAI互換エンドポイント以外のプロバイダーでの埋め込みをプロキシしている。INFROはこれらを提供しません。

変更点を1行ずつ。ここにないものはそのままです。

 Kong AI GatewayINFRO
ベースURLKongのプロキシまたはAI Modelのルートパスを付けた$KONNECT_PROXY_URL。https://api.infro.io/v1
キーapikeyのKongコンシューマーキー（key-auth）、またはOIDCのベアラートークン。Authorization: BearerのINFROゲートウェイキー。プロバイダーの認証情報は、AI Model ProviderからINFROの接続に移ります。
モデルID上流のモデル名（gpt-4o）、またはconfig.route.modelで設定したエイリアス。vendor/model、または以前のエイリアスと同じ名前のルート。呼び出し側はそれを送り続けられます。
ヘッダーレスポンスから読み取る：X-Cache-Status、X-AI-RateLimit-*。レスポンスのX-INFRO-CacheとX-RateLimit-Limit。予算はボディで402を返します。

変更前 · Kong AI Gateway

from openai import OpenAI

kong_url = "https://kong.internal.example.com"
kong_route = "ai"

client = OpenAI(
    api_key="my-consumer-key",
    base_url=f"{kong_url}/{kong_route}",
)

client.chat.completions.create(
    model="my-gpt",  # alias on the AI Model
    messages=[{"role": "user", "content": "Hello"}],
)

変更後 · INFRO

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["INFRO_API_KEY"],
    base_url="https://api.infro.io/v1",
)

client.chat.completions.create(
    model="my-gpt",  # an INFRO route with the same name
    messages=[{"role": "user", "content": "Hello"}],
)

エイリアスはルートになる

各AI Modelのエイリアスは、同じ名前で同じターゲットを同じ順序で持つルートになります。Kongのコンシューマーが自分のルートに限定されるのと同様に、ゲートウェイキーを名前付きのルートに固定すれば、モデルを直接呼び出せなくなります。

コンシューマーグループはプロジェクトになる

コンシューマーごと・グループごとのトークンまたは費用の上限は、キーの支出上限とプロジェクトの予算になります。キーごとのリクエストレートのティアはX-RateLimit-Limitで通知されます。

移行中は両方を動かす

KongとINFROを並行して動かすことに何の支障もありません。INFROはOpenAIの形式に対応しているので、Kongの上流にすることもできます。

Kong AI GatewayのオブジェクトとINFROのオブジェクトの対応。2026年10月19日に読んだKong AI Gatewayの公開ドキュメントに基づき、ゲートウェイの実装と照合しています。 INFROにないものは2行あります。

Kong AI Gatewayそこでの役割INFROでは
AI Model Provider同じ形式認証情報を保持する再利用可能なプロバイダー定義。暗号化して保持されるプロバイダー接続。プロバイダーごとに複数のキーを持て、待機キーは最後に使われます。
AI Modelとターゲット同じ形式ターゲットとロードバランサーを持つ仮想モデル。順序付きまたは重み付きのターゲット、リクエストに対するifルール、種類ごとの障害ルールを備えたルート。
バランサーのアルゴリズム異なるラウンドロビン、コンシステントハッシュ、最小接続数、最小レイテンシー、最小使用量、セマンティック、優先順位。優先順位と重み付けのみ。加えて、ターゲットの分類を選ぶプロンプト分類器。レイテンシー、使用量、意味によるバランシングはありません。
リトライ、フェイルオーバーの条件、サーキットブレーカー異なるリトライ、failover_criteria、max_fails、fail_timeout。429、5xx、タイムアウト、接続、認証情報、モデレーションについて、種類ごとの障害ルール（リトライ、フェイルオーバー、停止）。サーキットブレーカーの設定はありません。
AI Auth Strategyとコンシューマー異なるkey-authまたはOIDCのID。ポリシーのためにグループ化されます。サービスごとのゲートウェイキー。許可リスト、IP範囲、環境付き。メンバーはSSOでサインインし、ゲートウェイの呼び出しにはキーを使います。
AI Rate Limiting Advanced異なるコンシューマー、グループ、モデル、プロバイダー、ヘッダー、パスごとのトークンまたは費用の上限。組織、プロジェクト、メンバー、キー、エンドカスタマーごとに、ドル建ての上限で拒否する予算。キーごとのリクエストレートのティア。トークン数のウィンドウはありません。
AI Semantic Cache異なるRedis、Valkey、pgvectorでのセマンティックキャッシュと完全一致キャッシュ。完全一致のみ、オプトイン、チャット補完向け。
Prompt Guard、Sanitizer、Semantic guards異なるパターンと意味によるプロンプトルール、PIIのサニタイズ、レスポンスのガード。パターンでブロック、マスキング、フラグ付けを行うガードレールと、意思決定モデルで実行するチェック。意味的類似度によるガードはありません。
クラウドのガードレールとの連携なしAWS Guardrails、Azure Content Safety、GCP Model Armor。なし。
Prompt Template、Prompt Compressorなしゲートウェイでのプロンプトのテンプレート化と圧縮。なし。プロンプトはお客様のコードに残ります。
AI MCP Server同じ形式同じゲートウェイ上のMCPトラフィック。自社のMCPサーバー向けのMCPゲートウェイ。承認済みのツールとキーごとの付与に対応します。
分析異なるKonnectの分析でのトークン使用量、レイテンシー、費用。リクエストごとの推定プロバイダー費用。管理者キーを追加した場合は、OpenAIとAnthropic自身のコストAPIと日次で突合します。
セルフホストのデータプレーン異なる自社のインフラで動かすこと。ホスト型。セルフホスト型またはハイブリッド型はエンタープライズ契約です。Enterprise — セルフサービスではなく、Enterprise契約で提供します。

Kong AI Gatewayの公開ドキュメントに対する当社の読み取りであり、トライアルやベンチマークではありません。誤りがあればお知らせください。該当する行を修正します。

INFROが行わないこと

  • AI以外のAPIをゲートウェイで扱うこと。
  • セマンティックキャッシュ、または意味・レイテンシー・使用量に基づくバランシング。
  • プロンプトのテンプレートや圧縮。
  • クラウドのガードレールサービスと連携すること、またはA2Aのトラフィックを扱うこと。
  • ファイル、バッチ、アシスタントのプロキシ、またはOpenAI、Azure OpenAI、Mistral、OpenAI互換エンドポイント以外のプロバイダーでの埋め込み。
  • エンタープライズ契約なしで自社のデータプレーン上で動かすこと。

引き継がれないもの

  • Konnectの分析とログ。インポーターはありません。
  • 設定としてのポリシー（decK）。ルート、予算、許可リスト、ガードレールとして再作成してください。INFROの管理APIを使えば、スクリプトから作成できます。

質問

INFROとKongを併用できますか？
はい。INFROはOpenAIの形式に対応しているので、Kongの上流にすることも、サービスをKongからINFROへ1つずつ移すこともできます。
モデルのエイリアスをそのまま使えますか？
はい。エイリアスと同じ名前のINFROルートを作成すれば、呼び出し側は同じmodelを送り続けられます。
モデル利用料は誰が支払いますか？
お客様が、プロバイダーに直接支払います。Kongの場合と同じです。INFROはサブスクリプションで、モデル支出への上乗せは0%です。

当社と一緒に、またはご自身で移行

移行プログラムでは、通話でKong AI Gatewayの設定をINFROの接続、ルート、予算に対応付け、最初のサービスを一緒に移行します。プロバイダーは引き続きお客様に直接請求し、INFROはサブスクリプションで、モデル利用料への上乗せは0%です。

14日間のトライアルを開始 移行セッションを予約INFRO vs Kong AI Gatewayクイックスタートを読む

出典

このページにあるKong AI Gatewayについての記述は、すべて2026年10月19日に読んだこれらの資料に基づいています。トライアル、ベンチマーク、会話から推測したものはありません。