AWS上のマネージドモデルサービス
INFRO vs Amazon Bedrock
Amazon Bedrockは、多数のベンダーのモデルを、AWSのID、ネットワーク、請求のもとでAWS内で実行します。モデルの周囲には、多くのチームがゲートウェイとして使っているガバナンスの仕組みがあります。クロスリージョン推論プロファイル、アプリケーション推論プロファイルとProjectsによるコスト配分タグ、Bedrock Guardrails、モデルごとのIAMポリシー、モデル呼び出しのログです。AWSで運用し、モデル利用料もAWSの請求にまとめたい企業にとって、ここが自然な置き場所であり、多くの場合、評価はここで終わってかまいません。
Amazon Bedrockのほうが適している場合
- AWSで運用していて、すべてのモデル呼び出しをIAM、VPC、既存のAWS契約のもとで、自分のAWSアカウント内に収めたい場合。Bedrockは構造上そのすべてを満たします。INFROはリクエストの経路にいる追加のベンダーです。
- AWSの利用をコミットしている場合。Bedrockでのモデル利用はAWSの請求に計上されるAWS利用ですが、INFRO経由でルーティングする直接のプロバイダー契約での利用はそうではありません。
- 必要なモデルがBedrockにある場合です。1つのクラウドのカタログでワークロードをカバーできるなら、プロバイダーをまたぐコントロールプレーンが橋渡しすべき2つ目のプロバイダーはありません。
- 要件が安全性ポリシーの場合です。Bedrock Guardrailsには、コンテンツフィルター、拒否トピック、機密情報フィルター、コンテキストに基づく根拠チェック、Automated Reasoningチェックがあり、ApplyGuardrail APIはモデルを呼び出さずにテキストをチェックできます。INFROのガードレールは、チャット補完に対するPII、シークレット、お客様独自の用語のパターンチェックで、Businessプランからは、接続した意思決定モデルで実行する任意の分類器チェックも使えます。
- AWS Cost ExplorerとCost and Usage Reportで、AWSの他の支出と並べて、見積もりではなく請求ベースのドル額でチーム別のコストを見たい場合。
このセクションは社交辞令ではありません。どれかに当てはまるなら、Amazon Bedrockを選んでください。当社の助言で合わないレイヤーを導入したお客様は、最初から取引がなかったお客様よりも当社にとって悪い結果です。
両者が実際に分かれるところ。
- 1つのクラウドのカタログか、お持ちのすべてのアカウントか
- Bedrockが管理するのは、Bedrockが提供するモデルです。OpenAIやAnthropicとの直接契約、Google CloudのGeminiキー、Azure OpenAIのデプロイメントはその外にあり、それぞれ独自の制限、ログ、コスト表示を持ちます。INFROの単位は、すでに御社が支払っているプロバイダーアカウント全体なので、1つのポリシー、1つの予算、1つのリクエスト記録を、Bedrockも含めたすべてにまたがって適用できます。
- 翌日に確定するドル額の請求か、リクエストごとの見積もりか
- AWSのコスト配分は実際の請求額そのものです。アプリケーション推論プロファイルとProjectsがタグをCost ExplorerとCost and Usage Reportに引き継ぎます。AWS自身のページが説明しているとおり、これにはトレードオフがあります。最も細かい粒度は、リクエスト単位ではなく、利用タイプごとの日単位です。有効化したタグが表示されるまで最大24時間かかることがあり、遡って適用されません。アプリケーション推論プロファイルは1つのモデルに紐づくため、モデル、チーム、タグセットの組み合わせごとに専用のものが必要です。INFROは、各リクエストが発生した時点で、ベンダーの公開料金、またはTeamプランでは交渉済みの料金から価格を付け、プロジェクト、キー、モデル、ルート、エンドユーザーに配分します。この数字は請求書ではなく見積もりです。そのためBusinessプランでは、月の数字をOpenAIとAnthropicそれぞれのコストAPIと照合し、差異を明示します。
- アラートと拒否ポリシー、またはリクエストの拒否
- AWSでは、支出管理はAWS Budgetsです。しきい値でのアラートと、しきい値を超えたときにIAMポリシーまたはサービスコントロールポリシーを適用する予算アクションがあります。これは、支出が記録された後のアカウントレベルの制御です。INFROは、組織、プロジェクト、メンバー、キーのブロッキング予算を、プロバイダーを呼び出す前にチェックし、余裕がなければ402で拒否します。価格が不明なモデルは、オーナーが価格未設定のトラフィックを許可しない限り、ブロッキング予算の下で拒否されます。カウントするのは、プロバイダーの請求書ではなく、INFROによる推定プロバイダー費用です。
- どちらか一方ではありません
- Bedrockは、INFROがルーティングするプロバイダーの1つになれます。この接続は、Bedrock APIキーを使ってランタイムのOpenAI互換Chat Completionsエンドポイントに接続し、現在はそこでBedrockが提供するOpenAI、xAI、Moonshot、MiniMaxのモデルに対応しています。BedrockのClaude、Llama、Nova、CohereにはConverse APIが必要ですが、INFROはまだ対応していません。当面は、それらのベンダー自身のアカウントか別のクラウド経由で利用してください。支出は引き続きAWSの請求に計上されます。INFROは、残りの環境全体にわたる予算、配分、フェイルオーバーを加えます。
並べて比較。
当社の列にもダッシュがあります。片方がすべてチェックマークの比較は誰も信じませんし、それは当然です。
| 機能 | Amazon Bedrock | INFRO |
|---|---|---|
| 多数のベンダーのモデル | はいBedrockのカタログを、AWS上で実行 | はい接続したプロバイダーが提供するものすべて |
| プロバイダーとの直接契約 | いいえBedrockでホストされるモデルのみ | はいOpenAI、Anthropic、Google、Azure、Bedrockなど |
| AWSの請求に含まれるモデル利用料 | はい | 一部Bedrock接続に送られたトラフィックが対象 |
| チームまたはアプリケーション別のコスト | 一部タグ。日次、請求ベースのドル額、遡及なし | はいリクエストごと:プロジェクト、キー、エンドユーザー |
| プロバイダー自身の請求に基づくコスト | はいCost ExplorerとCUR | 一部見積もり。BusinessプランでOpenAIとAnthropicは照合 |
| リクエストを拒否する予算 | 一部AWS Budgetsのアラートと拒否ポリシーのアクション | はい組織、プロジェクト、メンバー、キー。402 |
| フェイルオーバー | 一部Bedrock内のクロスリージョン推論 | はいBedrockを含む、お客様自身のプロバイダー全体で |
| ガードレール | はいBedrock GuardrailsとApplyGuardrail | 一部パターンに加えて任意の分類器チェック。チャット補完。Businessプラン |
| モデルごとのアクセス制御 | はいIAM | はい組織、プロジェクト、キー単位のロールと許可リスト |
| お客様のクラウドアカウント内で実行 | はい | 一部ホスト型。エンタープライズ契約でセルフホスト |
| 現在利用可能 | はい | はいセルフサービスのサインアップ |
2026年10月時点の、各製品の公開ドキュメントに基づく当社の解釈です。競合他社の価格は引用しません。価格は変わりますし、他社の事業について間違った数字を載せるくらいなら、載せないほうがましだからです。誤りだと思う行があれば、お知らせください。修正します。
その違いの価値を算出する
現在のモデル構成がプロバイダーの定価でいくらになるか、どのプランが必要かを見積もるか、実際の使用量を当社が確認し、役に立てる点と立てない点をお伝えします。
すでにAmazon Bedrockをお使いですか?Amazon Bedrockからの移行ガイドを読む:変わるコード、引き継がれるもの、引き継がれないもの。