ユースケース支出の制御
報告するだけでなく、リクエストを拒否する支出上限。
組織、プロジェクト、メンバー、ゲートウェイキーごとに上限を設定してください。上限がカバーできないリクエストは、プロバイダーに届く前に402で拒否されるため、ループ、漏えいしたキー、忙しいエージェントは、お客様が決めた数字で止まります。
キーの例です。上限がカウントするのは、プロバイダーの請求書ではなく、INFROによる推定プロバイダー費用です。
課題
コントロールプレーンがない場合
- プロバイダーのダッシュボードが教えてくれるのは、使われた後に、何が使われたかです。
- 暴走したスクリプト1つ、あるいは漏えいしたキー1つが、1か月分の予算を午後のうちに使い切ることがある。
- すべてのチームが1つのプロバイダーキーを共有しているため、誰も数字を所有していない。
INFROがある場合
- 上限は、すべてのリクエストで、プロバイダーの呼び出しの前にチェックされます。
- 各プロジェクト、メンバー、キーに、専用の上限とアラートしきい値があります。
- 拒否には、拒否したスコープの名前が含まれるため、適切な人が対応できます。
仕組み
ワークロードごとに専用のキーを
サービス、エージェント、開発者ごとのキー。それぞれがプロジェクトの中にあります。支出は最初のリクエストからキーごとに記録されます。
上限を設定
組織、プロジェクト、メンバー、キー単位の上限。それぞれブロックまたはアラートのみで、お客様自身のしきい値でアラートを出します。
ゲートウェイに強制させる
各リクエストの推定コストは、呼び出しの前に予約されます。上限がカバーできないリクエストは402 budget_exceededを返し、プロバイダーには届きません。
得られるもの
いずれもドキュメント化されており、どのプランに含まれるかを明記しています。プランの記載がないものは、すべてのプランに含まれます。
すべてのレベルでの上限
組織、プロジェクト、メンバー、キーごとのハード上限と、お客様が設定したしきい値でのアラート。
ドキュメント呼び出しの前に拒否
上限がカバーできないリクエストは、プロバイダーに届く前に402で拒否されます。エラーにはスコープの名前が含まれます。
ドキュメント支出アラートと予測
普段のパターンから外れた日や、超過が予測される予算は、メール、Slack、Webhookで検出事項になります。
ドキュメントキーの上限
キーを選んだプロバイダーやIPレンジに限定したり、オフにしたり、重複期間付きでローテーションしたりできます。
ドキュメントエンドカスタマーごとの上限Teamから
プロダクトのすべてのエンドカスタマーに共通の支出上限。バックエンドから上書きできます。
ドキュメント価格未設定のトラフィックは拒否
料金が不明なモデルは、価格未設定のトラフィックを許可しない限り上限の下で拒否されるため、上限が推測値を$0としてカウントすることはありません。
ドキュメント
対象
- エンジニアリングリードすべての開発者とエージェントに上限付きのキーを渡し、信頼で支出を承認するのをやめる。
- 財務期待するだけのチームごとの数字ではなく、強制されるチームごとの数字。
- 創業者暴走したループのコストは、そのキーに設定した上限までです。
よくある質問
上限は、プロバイダーの請求書と1セントまで一致しますか？
上限がカウントするのは、INFROが把握している料金、またはお客様が入力した交渉済みの料金に基づく、プロバイダー費用の見積もりです。最終的な数字はプロバイダーの請求書で、プロバイダーがコストデータを公開している場合、照合が両者を比較します。
同時リクエストでも、上限は守られますか？
各リクエストは、呼び出しの前に自分の見積もりを予約するため、バーストのすべてがチェックを同時に通過することはありません。500の同時リクエストでのサンドボックステストの手法と結果は、下にリンクしたフィールドガイドで公開しています。
上限はブロックではなくアラートにできますか？
はい。各上限はブロックまたはアラートのみで、アラートのしきい値はお客様が設定します。
契約の全文は支出制御のドキュメントにあり、その他の質問はFAQにあります。
フィールドガイド
- フィールドガイドDoes an AI spend cap hold under 500 concurrent requests?A spend cap that checks a running total and then serves the request will be passed by a burst. Here is why, how a reservation-based cap is built instead, and what a sandbox test of one did and did not show.
- フィールドガイドLLM spend controls: budgets, alerts, and hard limitsBudgets should guide normal growth and contain abnormal behavior. Use scoped alerts for humans and hard ceilings for the failure modes that cannot wait.
- フィールドガイドCoding agent costs for teams: Claude Code, Codex and capsTwo ways to pay for coding agents, the mechanics that make an agent session expensive, and a working plan for measuring spend per developer, repository and project, then capping it before the provider call.
始める
自社のプロバイダーアカウントで試す。
プロバイダーを接続し、ゲートウェイキーを作成し、ベースURLを1つ変えるだけ。プロバイダーからの直接請求はそのままで、モデル支出への上乗せは0%です。