自分でホストするオープンソースのAIゲートウェイ
INFRO vs Bifrost
Bifrostは、Maxim AIのオープンソースAIゲートウェイで、Apache-2.0ライセンスでセルフホスト向けに作られています。オープンソース版には、多くのゲートウェイが有料プランに入れている以上の機能があります：キー、チーム、顧客単位のドル建て予算とレート制限を持つ仮想キー、20以上のプロバイダーにわたるフォールバックと重み付き負荷分散、セマンティックキャッシュ、キーごとのツール許可リストを持つMCPゲートウェイ、OpenTelemetry、独自料金のための価格の上書き。ガードレール、SSO、ロールベースのアクセス制御、監査ログ、クラスタリング、VPC内デプロイはEnterprise版で提供されます。ライセンス費用なしで自分で運用できる高機能なゲートウェイを求めるなら、有力な選択肢です。
- ベンダーとの契約なしで、オープンソースのコードからゲートウェイを自社インフラで動かしたい場合。それはまさにBifrostの用途です。INFROのセルフホストとハイブリッドのデプロイはEnterprise契約でのみ提供され、ゲートウェイはオープンソースではありません。
- ライセンス費用ゼロから始めたい場合。Bifrostのオープンソース版には、予算、仮想キー、セマンティックキャッシュ、MCPゲートウェイが含まれます。INFROのエントリープランは有料で、トライアルがあります。
- トラフィックにセマンティックキャッシュが重要な場合。Bifrostは類似したプロンプトをキャッシュから返します。INFROのレスポンスキャッシュは、チャット補完の完全に同一の繰り返しにのみ応答します。
- サービスを設定するのではなく、コードを読み、パッチを当て、拡張したい場合（リクエスト経路でのGoやWASMのプラグインなど）。
このセクションは社交辞令ではありません。どれかに当てはまるなら、Bifrostを選んでください。当社の助言で合わないレイヤーを導入したお客様は、最初から取引がなかったお客様よりも当社にとって悪い結果です。
両者が実際に分かれるところ。
- 自分で動かすソフトウェアか、利用するサービスか
- Bifrostの運用はお客様が担います：デプロイ、アップグレード、スケーリング、そしてすべてのモデルリクエストが通るコンポーネントに伴うオンコール。Enterprise版ではクラスタリングとVPC内デプロイが加わりますが、ドキュメントにも料金ページにもホスト型サービスの記載はありません。この種のインフラをすでに運用しているプラットフォームチームにとっては、それが正しいトレードオフです。INFROのプランはホスト型なのでデプロイするものはなく、裏返しの関係も成り立ちます：Enterprise契約でINFROを自社インフラに置かない限り、リクエストはお客様のサービスではなく私たちのサービスを通ります。
- 見積もり、そしてプロバイダー自身の数値
- どちらの製品も価格カタログからコストを見積もり、どちらもお客様独自の料金を受け付けます。Bifrostはグローバルから個別の仮想キーやプロバイダーキーまでスコープを設定できる価格の上書きで、INFROはTeamプランからモデルとプロバイダー種別ごとに保存する料金で対応します。違いはその後です。BusinessプランのINFROは、別の管理者用認証情報でOpenAIとAnthropic自身のコストAPIを読み取り、プロバイダーが報告した額をINFROの見積もりと並べて保存し、差異を示します。Bifrostのドキュメントには同等の機能の記載はありません。また価格が不明な場合の既定の扱いも異なります。Bifrostのドキュメントでは、カタログ価格のないカスタムプロバイダーは上書きを追加するまで$0と記載されていますが、INFROはそのリクエストを価格未設定として記録し、ブロッキング予算は許可しない限り価格未設定のトラフィックを拒否します。
- ゲートウェイの先にあるもの
- INFROは、ゲートウェイとその周りの運用面を合わせたものです：財務担当やチームリーダーがプロジェクト、キー、エンドユーザーごとの支出を確認できるコンソール。オーナーと財務メンバーにメールで届く週次サマリーと月次レポート。支出の異常と変動の検出事項をメールで、StartupプランからはSlack、Teams、PagerDuty、署名付きWebhookでも通知。画像、動画、音声それぞれに1つのリクエスト形式があり、長いレンダリングは署名付きWebhookのジョブとして処理。そしてINFRO Studio、お客様自身のプロバイダー接続で画像・動画・音声の作業を行うワークスペースが全プランで使えます。これらはいずれもゲートウェイの機能ではなく、ゲートウェイだけが必要なチームがその費用を払うべきではありません。
- どちらか一方ではありません
- すでに運用しているBifrostのデプロイメントはOpenAI APIに対応しているので、OpenAI互換の接続としてINFROの背後に置けます。Bifrostでしか届かないプロバイダーやプラグインのためにそのまま残し、INFROのコスト配分、予算、照合を全体の前に置けます。
並べて比較。
当社の列にもダッシュがあります。片方がすべてチェックマークの比較は誰も信じませんし、それは当然です。
| 機能 | Bifrost | INFRO |
|---|---|---|
| 多数のプロバイダーにまたがる1つのAPI | はい20以上のプロバイダー | はい接続したプロバイダー |
| ルーティング、再試行、フェイルオーバー | はい | はい |
| お客様自身のプロバイダーアカウント | はいお客様のキーで自分で運用 | はい環境ごとに接続 |
| セルフホストとオープンソース | はいApache-2.0 | 一部契約によりセルフホスト。ゲートウェイはオープンソースではない |
| デプロイも運用も不要 | いいえホスト型の提供はドキュメントに記載なし | はいホスト型サービス |
| リクエストを拒否する予算 | はい402。仮想キー、チーム、顧客 | はい402。組織、プロジェクト、メンバー、キー |
| 独自料金での見積もり | はい料金のオーバーライド、9つのスコープ | はい組織ごとに保存。Teamプラン |
| 価格が不明なモデル | 一部上書きを追加するまで$0 | はい価格未設定として記録。ブロッキング予算の下では既定で拒否 |
| プロバイダー自身の請求との照合 | いいえ | 一部OpenAIとAnthropic、Businessプラン。差異を表示 |
| レスポンスキャッシュ | はいセマンティック | 一部完全一致、チャット補完 |
| MCPゲートウェイ | はいオープンソース版。キーごとのツール許可リスト | はい固定ツール、キーごとの付与。Businessプラン |
| ガードレール | 一部Enterprise版 | 一部チャットのパターンとプロンプト分類器。Businessプラン |
| ロール、SSO、監査ログ | 一部Enterprise版 | はい監査は全プラン。SSOとSCIMはBusiness |
| 画像・動画・音声のジョブとメディアワークスペース | 一部メディアのリクエスト種別。ワークスペースなし | はい非同期ジョブ、署名付きWebhook、INFRO Studio |
| 現在利用可能 | はい | はいセルフサービスのサインアップ |
2026年10月時点の、各製品の公開ドキュメントに基づく当社の解釈です。競合他社の価格は引用しません。価格は変わりますし、他社の事業について間違った数字を載せるくらいなら、載せないほうがましだからです。誤りだと思う行があれば、お知らせください。修正します。
その違いの価値を算出する
現在のモデル構成がプロバイダーの定価でいくらになるか、どのプランが必要かを見積もるか、実際の使用量を当社が確認し、役に立てる点と立てない点をお伝えします。
すでにBifrostをお使いですか？Bifrostからの移行ガイドを読む：変わるコード、引き継がれるもの、引き継がれないもの。