コンテンツへスキップ

Azure API ManagementとMicrosoft FoundryのAIゲートウェイ

INFRO vs Azure AI Gateway

AzureのAIゲートウェイは、Azure API Managementに備わるAI機能の集合で、Microsoft Foundryのモデルデプロイメントからも有効にできます。Foundry、Azure OpenAI、他のプロバイダーのOpenAI・Anthropic・Vertex形式のAPI、セルフホストのモデル、MCPサーバー、エージェントAPIの前段に置かれ、APIMのポリシーを適用します。キーごとの毎分トークン数制限とトークンクォータ、セマンティックキャッシュ、Azure AI Content Safetyのチェック、重み付けと優先度によるサーキットブレーカー付きロードバランシング、Azure Monitorのトークンメトリクスなどです。すでにAPI Managementを運用している企業にとっては、プラットフォームチームが現在運用しているゲートウェイの延長であり、これに勝るものはなかなかありません。

Azure AI Gatewayのほうが適している場合
  • すでにAzure API Managementを運用している場合。AIトラフィックにも、他のAPIと同じインスタンス、ネットワーク、ID、開発者ポータル、ポリシー言語が適用され、すでにそれらを担当しているチームが運用します。
  • FoundryでAzureネイティブに運用しているエンタープライズの場合。Foundryポータルからゲートウェイを有効にすると、共有インスタンス上で各プロジェクトに専用のトークン制限とクォータが設定され、モデルへはマネージドIDでアクセスするため、配布するAPIキーがありません。
  • 要件がセマンティックキャッシュの場合です。APIMは、Azure Managed Redisと埋め込みデプロイメントを使い、意味が近いプロンプトにキャッシュされた回答を返します。INFROのレスポンスキャッシュは完全一致のみで、チャット補完が対象です。
  • プログラム可能なポリシーパイプラインが必要な場合。式を使うAPIMのポリシーは、リクエスト内のあらゆる情報に基づいて、変換、ルーティング、制限ができます。INFROの制御は、コンソールとAPIで設定する固定の機能であり、ポリシー言語ではありません。
  • 処理能力がProvisioned Throughputで、課題がドルではなく毎分トークン数の場合。APIMのAIポリシーが想定しているのは、PTUと従量課金のデプロイメントをまたぐトークン制限と優先度付きのロードバランシングです。

このセクションは社交辞令ではありません。どれかに当てはまるなら、Azure AI Gatewayを選んでください。当社の助言で合わないレイヤーを導入したお客様は、最初から取引がなかったお客様よりも当社にとって悪い結果です。

両者が実際に分かれるところ。

自分で運用するゲートウェイか、利用するサービスか
AzureのAIゲートウェイはAPI Managementです。お客様のサブスクリプション内のインスタンスで、選択したサービスティアで動作し、XMLポリシーで設定され、プラットフォームチームが運用します。Foundryは既定でBasic v2インスタンスを作成し、本番にはStandard v2またはPremium v2を推奨しています。すでにAPIMを運用していて、そのための人員がいる企業には、適した形です。INFROのプランはホスト型で、予算、ルート、許可リスト、監査ログはコンソールまたは管理APIで設定し、デプロイするものはありません。エンタープライズ契約により、お客様自身のインフラに置くことも可能です。
トークンか、ドルか
APIMのllm-token-limitポリシーはトークンを制限します。1分あたりのレート、1時間・日・週・月・年あたりのクォータ、またはその両方を、サブスクリプション、IPアドレス、任意の式をキーとして設定でき、429または403を返します。デプロイメントの処理能力を共有するには、トークンが適した単位です。一方、予算の単位としては適していません。モデルが違えば1トークンの価格は桁違いに異なり、トークンで書いたクォータは、チームがモデルを変えるたびに書き直す必要があるためです。INFROの予算は、推定プロバイダー費用（Teamプラン以降は交渉済みの料金）のドル額で、組織、プロジェクト、メンバー、キーの単位で設定します。プロバイダーを呼び出す前にチェックし、余裕がなければ402で拒否します。
コストは、構築すべき指標ではなく記録として
APIMは、トークン数を、追加した任意のディメンションとともにAzure MonitorとApplication Insightsに出力し、有効にすればプロンプトと応答も記録します。これをチーム別のコストに変換するには、トークンの価格付けを自分で行う必要があります。INFROは、記録の時点ですべてのリクエストに価格を付け、どの料金が適用されたか（交渉済みの料金、ベンダーの公開料金、価格未設定のいずれか）を示し、プロジェクト、キー、モデル、ルート、エンドユーザーに配分します。Businessプランでは、月の見積もりをOpenAIとAnthropicそれぞれのコストAPIと照合し、差異を明示します。
どちらか一方ではありません
Azure OpenAIは、INFROが接続できるプロバイダー種別の1つで、リソースのデプロイメントとそのキーを通じて接続します。企業はAzure環境の前段にAPIMを残したまま、そのAzure環境と、それと並ぶプロバイダーとの直接契約をまたぐ予算、配分、監査証跡にINFROを使うこともできます。

並べて比較。

当社の列にもダッシュがあります。片方がすべてチェックマークの比較は誰も信じませんし、それは当然です。

機能Azure AI GatewayINFRO
多数のプロバイダーにまたがる1つのAPIはいFoundry、Azure OpenAI、OpenAI・Anthropic・Vertex形式のAPIはい接続したプロバイダーが提供するものすべて
デプロイも運用も不要いいえお客様のサブスクリプション内のAPI Managementインスタンスはいホスト型サービス
トークン単位の制限はい毎分および期間ごと、任意のキーでいいえ代わりにキーごとのリクエストレート制限
リクエストを拒否するドル建ての予算いいえトークンクォータのみはい組織、プロジェクト、メンバー、キー。402
リクエストごとのコスト（配分済み）一部カスタムディメンション別のトークンメトリクスはいプロジェクト、キー、モデル、ルート、エンドユーザー
レスポンスキャッシュはいセマンティック、Azure Managed Redis使用一部完全一致、チャット補完のみ
コンテンツの安全性はいAzure AI Content Safetyのポリシー一部パターンに加えて任意の分類器チェック。チャット補完。Businessプラン
ロードバランシングとフェイルオーバーはい重み付け、優先度、サーキットブレーカーはい優先度または重み付けのルート、あらゆるモダリティ
プログラム可能なポリシーはいAPIMのポリシー式いいえ設定可能な機能であり、ポリシー言語ではない
MCPサーバーとエージェントAPIはいMCPとA2A一部MCPゲートウェイ、Businessプラン
現在利用可能はいはいセルフサービスのサインアップ

2026年10月時点の、各製品の公開ドキュメントに基づく当社の解釈です。競合他社の価格は引用しません。価格は変わりますし、他社の事業について間違った数字を載せるくらいなら、載せないほうがましだからです。誤りだと思う行があれば、お知らせください。修正します。

その違いの価値を算出する

現在のモデル構成がプロバイダーの定価でいくらになるか、どのプランが必要かを見積もるか、実際の使用量を当社が確認し、役に立てる点と立てない点をお伝えします。

ワークロードの料金を算出無料の料金見積もり

すでにAzure AI Gatewayをお使いですか？Azure OpenAIからの移行ガイドを読む：変わるコード、引き継がれるもの、引き継がれないもの。