ユースケースプロダクトの中のAI
各顧客のAIに、いくらかかっているかを把握する。
各リクエストにユーザーのIDを送ってください。INFROはエンドカスタマーごとの使用量と推定プロバイダー費用を記録し、その顧客の上限を超えるリクエストを呼び出しの前に拒否し、ご自身の請求システム向けに行をエクスポートします。
上限の例です。INFROは計測し、ご自身のユーザーへの請求はお客様が行います。INFROがお客様のエンドカスタマーに請求することはありません。
課題
コントロールプレーンがない場合
- ヘビーな顧客1社が、支払う金額以上のAIを使うことがある。
- 顧客ごとのコストが分からないため、AI機能の料金設定は推測になる。
- 無料枠には、スクリプトが超えられない上限がありません。
INFROがある場合
- エンドカスタマーごとの使用量と推定コストを、日次または月次で。
- すべてのエンドカスタマーに共通の上限。顧客ごとの上書きも可能。
- リセット時刻付きの402。アプリがユーザーに表示できます。
仕組み
エンドカスタマーを指定する
ユーザーの不透明なIDを、metadata.user_idまたはX-INFRO-User-Idヘッダーで送ってください。メールアドレスではなく、IDを使ってください。
それぞれに上限を設定
組織またはプロジェクトごとに、すべてのエンドカスタマーに共通の上限を設定し、バックエンドから管理APIで上書きできます。
行から請求する
エンドカスタマー、プロジェクト、モデルごとのリクエスト、トークン、推定プロバイダー費用を、CSVまたはJSONで。すでに使っている請求システム向けです。
得られるもの
いずれもドキュメント化されており、どのプランに含まれるかを明記しています。プランの記載がないものは、すべてのプランに含まれます。
エンドカスタマーの上限Teamから
組織またはプロジェクトごとの、すべてのエンドカスタマーに共通の支出上限。管理APIで上書きできます。
ドキュメントエンドカスタマーごとの使用量Teamから
顧客ごとのリクエスト、トークン、推定プロバイダー費用を、日次または月次で、CSVまたはJSONで。
ドキュメント機能別の配分
X-INFRO-Featureを追加すると、各顧客のコストがプロダクトのどの部分から来ているかが分かります。
ドキュメントユニットエコノミクス
実行ごと、リクエストごと、機能ごと、顧客ごとのコスト。すべての数字の横に、価格未設定の割合が併記されます。
ドキュメント売上に対するコストの割合Teamから
各顧客の月間売上を記録すると、売上に対するAIコストの割合が表示され、しきい値を超えるとフラグが付きます。表示のみです。
ドキュメントお客様自身の支出上限
組織、プロジェクト、キーの上限は、エンドカスタマーの上限とは独立して、引き続き適用されます。
ドキュメント
対象
- 創業者各顧客が実際に使った量に基づいてAI機能の料金を決め、無料枠が請求書の最大の項目にならないようにする。
- プロダクトマネージャープランの上限を決める前に、どの顧客と機能がAIコストを動かしているかを確認。
- 財務すでに運用している請求システムに読み込める、顧客ごとの使用量の行。
よくある質問
INFROは、当社の顧客に請求しますか？
いいえ。INFROは、エンドカスタマーごとの使用量と推定プロバイダー費用を計測します。ご自身のユーザーへの請求は、お客様が請求システムから、ご自身の料金で行います。
顧客が上限に達したとき、アプリには何が見えますか？
タイプ budget_exceeded、コード end_user_budget の402。スコープ、エンドカスタマーのID、期間、resets_atを含むため、アプリはユーザーがいつ再開できるかを伝えられます。
これは、どのプランに含まれますか？
顧客ごとのコスト表示は、すべてのプランにあります。上限と使用量のエクスポートは、Teamプラン以降に含まれます。
契約の全文はエンドカスタマー上限のドキュメントにあり、その他の質問はFAQにあります。
フィールドガイド
- フィールドガイドAttributing AI cost to customers, features and teamsThe provider's finest unit of cost is an account structure you created for its convenience. The dimensions your business runs on — customer, feature, team — only exist where the request passes through something you control.
- フィールドガイドShowback and chargeback for AI spendProvider invoices arrive per account, not per team. Showback and chargeback for AI spend depend on tagging every request at the source, booking it with rules finance can audit, handling shared costs openly, and closing each month so it never moves.
始める
自社のプロバイダーアカウントで試す。
プロバイダーを接続し、ゲートウェイキーを作成し、ベースURLを1つ変えるだけ。プロバイダーからの直接請求はそのままで、モデル支出への上乗せは0%です。