ユースケースAIのためのFinOps
すべてのAIリクエストを、請求書が届く前に配分。
すべてのリクエストが、モデル、プロジェクト、キー、お客様自身の料金での推定プロバイダー費用とともに記録されます。それを引き起こしたチーム、機能、顧客別にグループ化し、プロバイダーの報告と比較し、すでに使っているFinOpsツールに送れます。
組織の例です。推定プロバイダー費用で、請求はお客様のプロバイダーから届きます。INFROのサブスクリプションは別です。
課題
コントロールプレーンがない場合
- プロバイダーごとに請求書が1枚あるだけで、どのチームが使ったかを示す行がない。
- 契約が別の料金なのに、すべての見積もりに定価が使われている。
- AIの支出は、クラウドコストの残りを管理するFinOpsプラットフォームの外にある。
INFROがある場合
- プロジェクト、キー、メンバー、機能、エンドカスタマー別にグループ化したコスト。
- ベンダーの定価より先に、交渉済みの料金を使用。
- すでに使っているツール向けの、FOCUSデータセットと使用量API。
仕組み
発生源でタグ付け
プロジェクトとキーが、すべてのリクエストを自動的に配分します。X-INFRO-FeatureとX-INFRO-User-Idで、プロダクトの機能とエンドカスタマーが加わります。
お客様の料金で見積もる
契約で定めた料金を、モデルごと、プロバイダーごとに入力してください。見積もりは定価より先にそれらを使い、料金が不明なものは、$0ではなく価格未設定と表示されます。
ループを閉じる
推定値をプロバイダーが報告するコストと比較し、コミットメントを追跡し、結果をFOCUSまたは使用量APIでエクスポートします。
得られるもの
いずれもドキュメント化されており、どのプランに含まれるかを明記しています。プランの記載がないものは、すべてのプランに含まれます。
支出の配分
モデル、プロジェクト、キー、メンバー、機能、またはリクエストに付けるエンドユーザーIDでコストをグループ化。
ドキュメント交渉済みの料金Teamから
契約で定めた料金を入力すると、見積もりがベンダーの定価より先にそれを使います。
ドキュメント照合Businessから
推定支出と、OpenAIおよびAnthropic自身のコストAPIとの日次比較。差異が出た場合は、考えられる原因も示します。
ドキュメントコストセンターと明細Teamから
ルールがリクエストを経理が費用を振り分けるセンターに割り当て、月次の明細書が各センターの合計を出します。
ドキュメントFOCUSと使用量のエクスポート
GET /v1/usageと/v1/requests、コンソールからのCSV、FinOpsプラットフォーム向けのFOCUS v1.4データセット。
ドキュメントサマリーと月次レポート
予算に対する支出とその予測を1ページにまとめ、毎週月曜日にメールで送信。印刷できる月次レポート付き。
ドキュメント
対象
- FinOps担当者クラウドコストの残りと同じFOCUS形式のAI支出を、月末より前に配分。
- 経理のリーダーお客様の契約料金に基づく数字で、チーム別のショーバックまたは部門課金。
- エンジニアリングマネージャー今週、どの機能、モデル、キーが数字を動かしたかを、スプレッドシートなしで。
よくある質問
INFROが表示するコストは、プロバイダーが請求する金額ですか？
定価、またはお客様が入力した交渉済みの料金に基づく、プロバイダー費用の見積もりです。最終的な数字は、プロバイダーの請求書です。OpenAIやAnthropicがコストデータを公開している場合、照合は両者を毎日比較します。
INFROは、モデルの支出に何かを加えますか？
いいえ。上乗せは0%です。推論の料金はプロバイダーが直接請求し、INFROは別のソフトウェアサブスクリプションを請求します。この2つが、INFROのどの画面でも合算されることはありません。
どのFinOpsツールがエクスポートを読み込めますか？
CSVまたはJSONのFOCUS v1.4 Cost and Usage データセットを読み込むあらゆるツール、あるいはゲートウェイキーで使用量APIを呼び出せるあらゆるもの。
契約の全文はコスト配分のドキュメントにあり、その他の質問はFAQにあります。
フィールドガイド
- フィールドガイドLLM FinOps: control AI spend without slowing product teamsLLM FinOps is the operating system around inference spend: ownership, allocation, budgets, anomaly response, and quality-adjusted unit economics.
- フィールドガイドAttributing AI cost to customers, features and teamsThe provider's finest unit of cost is an account structure you created for its convenience. The dimensions your business runs on — customer, feature, team — only exist where the request passes through something you control.
- フィールドガイドShowback and chargeback for AI spendProvider invoices arrive per account, not per team. Showback and chargeback for AI spend depend on tagging every request at the source, booking it with rules finance can audit, handling shared costs openly, and closing each month so it never moves.
始める
自社のプロバイダーアカウントで試す。
プロバイダーを接続し、ゲートウェイキーを作成し、ベースURLを1つ変えるだけ。プロバイダーからの直接請求はそのままで、モデル支出への上乗せは0%です。