Cloudflare開発者プラットフォームのAIゲートウェイ
INFRO vs Cloudflare AI Gateway
Cloudflare AI Gatewayは、23社のプロバイダーと自社のWorkers AIの前段にプロキシを置きます。その中核である分析、ロギング、キャッシュ、レート制限は、あらゆるCloudflareアカウントで無料です。2026年にかけて、単なるプロキシを大きく超えました。プロバイダーを呼び出す前に評価されるドル建ての支出上限(価格が分かっているモデルでは、お客様自身のキーでのリクエストもカウント)、IDごとの支出の配分、カスタムメタデータ、バージョン管理されたデプロイと即時ロールバックを備えたビジュアルなルーティングビルダー、OpenTelemetryエクスポート、双方向のガードレールとデータ損失防止です。トラフィックがすでにCloudflareを通っているなら、導入にかかるのは午後の数時間だけで、他に費用はありません。非常に多くのチームにとって、評価はここで終わってかまいません。それがこのページの正直な要約です。
- 無料であることが要件の場合です。すでにお持ちのアカウントではコアは無料で、すでに役目を果たしているものを置き換えるために、有料のコントロールプレーンを買う価値はありません。
- すでにCloudflareを使っている場合。すでに運用しているWorkers、ストレージ、DNSの隣に置け、すでに結んでいる契約のもとで、審査すべき新しいベンダーも2枚目の請求書もありません。多くのチームにとって、これで評価は完了で、手を抜いた答えではなく、良い答えです。
- チャット補完以外のキャッシュが欲しい場合。どちらのキャッシュも完全に同一のリクエストにのみ応答しますが、Cloudflareのものはテキストと画像のレスポンスを対象とし、自社のネットワークから配信します。INFROのレスポンスキャッシュはチャット補完リクエストのみが対象で、プロジェクトとキーの環境ごとにキー付けされます。
- リクエストの経路で、プロンプトとレスポンスの両方に対するガードレールやデータ損失防止が必要な場合。それは先方の領域です。INFROには、チャット補完に対するPII、シークレット、お客様独自の用語のパターンベースのガードレールと、プロンプトインジェクション、ジェイルブレイク、有害または対象外のリクエストを検出する分類器チェックがあります。後者はプロンプトのみを読み取り、お客様自身の意思決定モデル接続で実行され、Businessプランに含まれます。
- Workers AIを使っている場合。Cloudflare自身のモデルとサードパーティのプロバイダーを1つのゲートウェイから呼び出せることは、両方をホストする会社から購入する本物の利点です。
- 実績のある、ディレクトリ連携のユーザープロビジョニングが必須要件の場合です。Cloudflareは、Enterpriseのお客様向けに、Okta、Microsoft Entra ID、Authentikに対するダッシュボードでのSCIMプロビジョニングをドキュメント化しています。INFROはBusinessプランからSAML/OIDCのSSOとSCIM 2.0を含みますが、新しい機能で、お客様のIDプロバイダーに対して本番で稼働した実績がまだないため、セルフサービスとは呼ばず、最初の接続を一緒に設定します。
このセクションは社交辞令ではありません。どれかに当てはまるなら、Cloudflare AI Gatewayを選んでください。当社の助言で合わないレイヤーを導入したお客様は、最初から取引がなかったお客様よりも当社にとって悪い結果です。
両者が実際に分かれるところ。
- 見積もりの後に何が起きるか
- どちらの製品も、トークン数とモデルの料金から各リクエストに価格を付け、結果が見積もりであることを正直に述べています。Cloudflareの支出上限のドキュメントも、コスト追跡はベストエフォートであり、正確な請求額はプロバイダーのダッシュボードを参照するよう記載しています。これは、どのゲートウェイでも単独で把握できることの公平な説明であり、INFROのリクエストごとの数字も同じ条件の見積もりです。違いはその後です。日次の処理で、お客様が意図して付与する別の管理者用認証情報を使い、お客様自身のOpenAIとAnthropicのコストAPIを読み取り、プロバイダーが報告した値を、同じUTC日についてINFROが見積もった値と並べて保存し、差異を明示します。対象はこの2つのプロバイダーで、Businessプランです。アダプターのないプロバイダーには、差異ゼロではなく、差異を表示しません。ゼロは、誰も確認していない一致のように読めてしまうからです。経理との会話に必要なのは、支出のダッシュボードではなく、請求書と照合済みの数字です。
- 交渉済みの料金がどこにあるか
- どちらも、契約で実際に適用される料金で価格付けできます。Cloudflareでは、呼び出し側が送るcf-aig-custom-costヘッダーでリクエストごとに指定します。INFROでは、コンソールにモデルごと、必要に応じてプロバイダー種別ごとに保存し、一致するすべてのリクエストに、呼び出し側が何も知らなくても適用します。プロバイダー種別ごとにするのは、同じモデルでも、ベンダーとの直接アカウントとクラウドの再販業者経由とでは請求が異なるためです。違いは技術的というより運用上のものです。料金がヘッダーで運ばれるなら、モデルを呼び出すすべてのサービスが、契約条件のコピーを持つことになり、再交渉のたびに、そのすべてのデプロイが必要になります。コントロールプレーンにあれば、契約の担当者が1か所を編集するだけで済み、先月のリクエストは実行時に有効だった料金のまま残ります。INFROのすべての記録には、どの料金が適用されたか(交渉済みの料金、ベンダーの公開料金、価格未設定のいずれか)も記載され、誰も価格を付けられないリクエストは、無料ではなく価格未設定として記録されます。
- ルーティングが適用されるリクエスト
- Cloudflareのダイナミックルートは、ビジュアルエディターで組み立て、下書きとしてバージョン管理し、即時ロールバック付きでデプロイします。同社のドキュメントによれば、受け付けるのはOpenAIのチャット補完のリクエスト形式のみで、他の形式は400を返します。ルーティングフローを組み立てる方法としては本当に優れていますが、対象はチャットに限られます。INFROのルートは、そのルートが扱うあらゆるもの、画像、動画、音声のリクエストを含めて適用される、優先度または重み付けのターゲットリストです。メディア中心のプロダクトでは、費用の大半がそこにかかります。どちらの形が優れているとも、一概には言えません。どちらが合うかは、ルーティングの課題がテキストで終わるかどうかで決まります。
- 1つのゲートウェイか、組織か
- Cloudflareの単位はゲートウェイです。アクセスはCloudflareのアカウントロールで制御され、リクエスト単位のIDは、カスタムメタデータ(最大5エントリー)またはAccessから得られます。INFROの単位は組織で、その下にプロジェクト、環境、固有のスコープを持つキー、5つのロール、組織・プロジェクト・キー単位のモデル許可リスト、誰がいつどのポリシーを変更したかの監査ログがあります。これは、エントリープランを含むすべてのプランで利用できます。重要な違いは、制御が何に紐づいているかです。上限や許可リストが有効なのは、呼び出し側が自分を正しくラベル付けしたからではなく、どのキーが呼び出したかによるからです。メタデータはより柔軟ですが、より間違えやすくもあります。AIを運用するのが1つのチームのうちは、ゲートウェイで十分です。複数のチームが使い始めると、問いはリクエストにいくらかかったかではなくなり、どのチームがこのモデルを呼び出してよいのか、誰が承認したのか、いくら使ったのか、になります。これは、より大きなダッシュボードではなく、別のオブジェクトモデルです。
- プラットフォームの一部か、独立した製品か
- ここが本当の分かれ道であり、ほとんどの読者にとっては先方に有利です。先方のゲートウェイはCloudflare開発者プラットフォームの機能の1つであり、だからこそ無料で、1行のコードで導入でき、他社のロードマップで機能が増え続けます。この製品はこのページよりも速く更新されるため、決める前に先方のドキュメントと当社のものを見比べてください。INFROは単独のコントロールプレーンです。審査すべきベンダーがもう1社、サブスクリプションがもう1つ増えますが、責任を負う相手は、AIを運用する人々だけです。どちらのトレードオフが正しいかは、スタックのどれだけがすでにCloudflareのものかによって決まり、それはどちらの製品についての問いでもなく、お客様についての問いです。
並べて比較。
当社の列にもダッシュがあります。片方がすべてチェックマークの比較は誰も信じませんし、それは当然です。
| 機能 | Cloudflare AI Gateway | INFRO |
|---|---|---|
| 多数のプロバイダーにまたがる1つのAPI | はい23社のプロバイダーとWorkers AI | はい接続したプロバイダーが提供するものすべて |
| 無料のコア | はい分析、ロギング、キャッシュ、レート制限 | いいえ有料プラン、トライアルあり |
| お客様自身のプロバイダーキー | はいゲートウェイごとにSecrets Storeに保存、エイリアス付き | はい環境ごとに接続 |
| ルーティング、再試行、フェイルオーバー | はいビジュアルなルート、チャット補完の形式のみ | はい優先度または重み付けのターゲット、あらゆるモダリティ |
| レスポンスキャッシュ | はい完全一致。テキストと画像、先方のネットワークから配信 | 一部完全一致、チャット補完のみ |
| ガードレールとデータ損失防止 | はい先方の専門領域。プロンプトとレスポンス | 一部チャットのパターンとプロンプト分類器。Businessプラン |
| リクエストのロギングとトレース | はい既定でオン | はいペイロードの取得は既定でオフ |
| プロバイダーを呼び出す前に拒否する予算 | はい上限で429、またはフォールバックモデル。価格のあるモデルはBYOKもカウント | はい402、4つのスコープ |
| チーム、機能、エンドユーザー別に配分されたコスト | はいカスタムメタデータとID | はいプロジェクト、キー、ユーザーID |
| 交渉済みの料金での見積もり | 一部呼び出し側が送るヘッダー | はい組織ごとに保存。Teamプラン |
| プロバイダー自身の請求との照合 | いいえドキュメントはプロバイダーのダッシュボードを案内している | 一部OpenAIとAnthropic、Businessプラン。差異を表示 |
| モデルの許可リスト | 一部ルーティング条件で実現可能 | はい組織、プロジェクト、キー |
| プロジェクト、ロール、監査ログ | 一部Cloudflareのアカウントロール | はいすべてのプラン |
| リクエスト履歴 | 一部ゲートウェイごとのストレージ上限 | はいプランにより7~90日 |
| 画像、動画、音声 | 一部各プロバイダー自身の形式でプロキシ | はいそれぞれ1つのリクエスト形式 |
| 自社推論 | はいWorkers AI | いいえお客様のプロバイダーへルーティング |
| 現在利用可能 | はい無料のコア機能 | はいセルフサービスのサインアップ |
2026年10月時点の、各製品の公開ドキュメントに基づく当社の解釈です。競合他社の価格は引用しません。価格は変わりますし、他社の事業について間違った数字を載せるくらいなら、載せないほうがましだからです。誤りだと思う行があれば、お知らせください。修正します。
その違いの価値を算出する
現在のモデル構成がプロバイダーの定価でいくらになるか、どのプランが必要かを見積もるか、実際の使用量を当社が確認し、役に立てる点と立てない点をお伝えします。
すでにCloudflare AI Gatewayをお使いですか?Cloudflare AI Gatewayからの移行ガイドを読む:変わるコード、引き継がれるもの、引き継がれないもの。
3つ以上の選択肢を比較しますか?Cloudflare AI Gatewayの代替サービスをすべて比較。それぞれが適している場面もまとめています。