APIゲートウェイ上のAIプラグイン
INFRO vs Kong AI Gateway
Kong AI Gatewayは、最も広く導入されているAPIゲートウェイの1つであるKong GatewayにAIトラフィックを載せます:主要プロバイダーに対するモデルとプロバイダーの抽象化、それらの間の負荷分散とフェイルオーバー、セマンティックキャッシュ、トークンとコストに基づくレート制限、プロンプトガード、PIIのサニタイズ、クラウドのガードレール連携、MCPツール。いずれも、すでに会社のAPIを流している同じランタイム上のポリシーとして動きます。プラットフォームチームが現在Kongを運用しているなら、AIトラフィックの追加は新しいベンダーではなく設定変更で済み、それは強い立場です。
- すでにKongを運用している場合。API、認証プラグイン、オブザーバビリティ、オンコールがすでにそこにあり、AIトラフィックは同じ運用モデルのもとでのルートの1セットになります。モデルの前に2つ目のゲートウェイを置くのは、不要な範囲の拡大です。
- ゲートウェイ全体を自分で動かす必要がある場合:データプレーンを自社環境に置く、またはコントロールプレーンとデータプレーンの両方をオンプレミスに置く。Kongはそのために作られています。INFROのプランはホスト型で、セルフホストとハイブリッドのデプロイはEnterprise契約でのみ提供されます。
- プラグインの深さが要件の場合。Kongのプラグインエコシステム(カスタムプラグイン、リクエストとレスポンスの変換、AWS、Azure、Googleのクラウドガードレール連携)は、INFROが提供するものをはるかに超えており、INFROにはプラグインシステム自体がありません。
- AIトラフィックと通常のAPIトラフィックを1つのポリシーモデルで統制していて、両者を分けると、AI固有の機能で得られるものより一貫性の面で失うものの方が大きい場合。
このセクションは社交辞令ではありません。どれかに当てはまるなら、Kong AI Gatewayを選んでください。当社の助言で合わないレイヤーを導入したお客様は、最初から取引がなかったお客様よりも当社にとって悪い結果です。
両者が実際に分かれるところ。
- AIに対応したAPIゲートウェイか、AIのために作られたコントロールプレーンか
- Kongの単位はルートとプラグインです。AI機能は、汎用ゲートウェイを通るトラフィックに付けるポリシーです。INFROの単位は組織です:プロジェクト、環境、ゲートウェイキー、プロバイダー接続、それらを管理する人。すべてのリクエストに、プロジェクト、キー、モデル、ルート、エンドユーザーに配分された推定プロバイダー費用が付きます。どちらも筋の通った設計です。違いが出るのは、プラットフォームチーム以外の人が質問したときです。サポートアシスタントに先月いくらかかったかを尋ねる財務担当者や、自分のプロジェクトがどのモデルを呼び出せるかを尋ねるチームリーダーは、ゲートウェイのログに対してクエリを書かなくても、INFROのコンソールで答えを得られます。
- コストの数値の出どころと、その照合方法
- Kongは支出を制限できます。AI Rate Limiting Advancedプラグインは、AI Proxyの設定でモデルごとに指定した入力・出力の価格からコストを計算し、上限に達すると429を返します。これは有能な仕組みで、価格はゲートウェイの設定でお客様が維持します。INFROはモデルごとにベンダーの公開料金を保持し、Teamプランからは契約上の料金を入力でき、価格が不明なリクエストを無料ではなく価格未設定として記録し、Businessプランでは月の見積もりをOpenAIとAnthropic自身のコストAPIと照合して差異を示します。予算はその数値に基づき、組織、プロジェクト、メンバー、キーの単位で動作します。
- 各ティアに含まれるもの
- Kongの料金ページでは、ロールベースのアクセス制御、シングルサインオン、監査ログはEnterprise限定とされています。セマンティックキャッシュを含むいくつかのAIプラグインはセルフサービスのティアでは有料のアドオンで、セルフサービスのティアではAIプラグインがプロキシできる異なるモデルの数にも制限があり、コストに基づくレート制限はAI Gateway Enterpriseの一部として文書化されています。詳細は同社の料金ページをご覧ください。INFROでは、予算、モデルの許可リスト、監査ログ、レスポンスキャッシュは全プラン、メンバーとロールはStartupプランから、交渉済みの料金とエンドカスタマーの上限はTeamから、シングルサインオン、SCIM、ガードレール、MCPゲートウェイ、照合はBusinessで利用できます。
- どちらか一方ではありません
- Kongを運用している多くの企業は、そのまま使い続けるでしょう。INFROのゲートウェイはOpenAI APIに対応しているので、KongのルートからINFROをアップストリームとしてAIトラフィックを送れます。KongはAPI全体とエッジのポリシーを引き続き担い、INFROはその背後でプロバイダー接続、コスト配分、予算、照合を加えます。ホップが1つではなく2つになるのは実際のコストであり、それに見合うかどうかは、2つ目のリストの機能がどれだけ必要かによります。
並べて比較。
当社の列にもダッシュがあります。片方がすべてチェックマークの比較は誰も信じませんし、それは当然です。
| 機能 | Kong AI Gateway | INFRO |
|---|---|---|
| 多数のプロバイダーにまたがる1つのAPI | はいモデルとプロバイダーのエンティティ | はい接続したプロバイダー |
| ルーティング、再試行、フェイルオーバー | はいプロバイダー間のロードバランシング | はい |
| お客様自身のプロバイダーアカウント | はい認証情報はゲートウェイの設定内 | はい環境ごとに接続 |
| 画像、動画、音声 | はい画像、音声合成、文字起こし、動画のルート | はいそれぞれ1つのリクエスト形式 |
| セルフホスト | はいハイブリッド、または完全セルフホスト | 一部Enterprise契約 |
| プラグインエコシステムとカスタムプラグイン | はい相手の専門領域 | いいえプラグインの仕組みなし |
| ガードレールとPIIのマスキング | はいプロンプトガード、PIIサニタイザー、クラウドのガードレール | 一部チャットのパターンとプロンプト分類器。Businessプラン |
| レスポンスキャッシュ | はいセマンティックキャッシュ。Plusの有料アドオン | 一部完全一致、チャット補完。全プラン |
| リクエストを拒否するドル建ての支出上限 | 一部コストモードのレート制限。AI Gateway Enterprise | はい402。組織、プロジェクト、メンバー、キー。全プラン |
| 交渉済みの料金での見積もり | 一部モデルごとのコストをプラグイン設定で指定 | はい組織ごとに保存。Teamプラン |
| プロバイダー自身の請求との照合 | いいえ | 一部OpenAIとAnthropic、Businessプラン。差異を表示 |
| ロール、SSO、監査ログ | 一部Enterpriseティア | はい監査は全プラン。SSOとSCIMはBusiness |
| 現在利用可能 | はい | はいセルフサービスのサインアップ |
2026年10月時点の、各製品の公開ドキュメントに基づく当社の解釈です。競合他社の価格は引用しません。価格は変わりますし、他社の事業について間違った数字を載せるくらいなら、載せないほうがましだからです。誤りだと思う行があれば、お知らせください。修正します。
その違いの価値を算出する
現在のモデル構成がプロバイダーの定価でいくらになるか、どのプランが必要かを見積もるか、実際の使用量を当社が確認し、役に立てる点と立てない点をお伝えします。
すでにKong AI Gatewayをお使いですか?Kong AI Gatewayからの移行ガイドを読む:変わるコード、引き継がれるもの、引き継がれないもの。