问题所在
没有控制平面
- 每家提供商一张发票,没有一行写明是哪个团队造成的。
- 每个估算里都是公开价,而你的合同实际采用的是其他费率。
- AI 支出位于持有其余云成本的 FinOps 平台之外。
使用 INFRO
- 按项目、密钥、成员、功能或终端客户分组的成本。
- 优先于厂商公开价使用你的协商价。
- 为你已在运行的工具提供 FOCUS 数据集和用量 API。
运作方式
在源头打标签
项目和密钥会自动归因每个请求;X-INFRO-Feature 和 X-INFRO-User-Id 则补充产品功能和终端客户。
按你的费率定价
按模型和提供商录入你合同中的费率。估算会优先使用它们,而不是公开价;任何没有已知价格的内容都显示为未定价,绝不显示为 $0。
闭环
将估算与提供商报告的成本进行比较,跟踪承诺用量,并将结果导出为 FOCUS 或通过用量 API 提供。
你能得到什么
每一项都有文档说明,并注明包含它的套餐。未注明套餐的,所有套餐都提供。
支出归因
按模型、项目、密钥、成员、功能或你附加在请求上的终端用户 id 对成本分组。
文档你的协商价Team 起
录入你合同中的费率,这样估算会优先使用它们,而不是厂商的公开价。
文档对账Business 起
每日将预估支出与 OpenAI 和 Anthropic 自己的成本 API 比较,并给出差异的可能原因。
文档成本中心与对账单Team 起
规则把请求分配给财务用于分摊的成本中心;月度账单汇总每个成本中心。
文档FOCUS 和用量导出
GET /v1/usage 和 /v1/requests,控制台的 CSV,以及供你的 FinOps 平台使用的 FOCUS v1.4 数据集。
文档摘要与月度报告
支出与预算及其预测放在同一页上,每周一通过邮件发送,并附可打印的月度报告。
文档
适用对象
- FinOps 从业者AI 支出采用与你其余云成本相同的 FOCUS 格式,在月底之前完成归因。
- 财务负责人基于使用你合同费率的数字,按团队进行成本展示或分摊。
- 工程经理不用电子表格,就能看出本周是哪个功能、模型或密钥让数字发生了变化。
常见问题
INFRO 显示的成本就是我的提供商将收取的费用吗?
它是对提供商费用的估算,来自公开价或你录入的协商价。你的提供商的发票才是最终数字。在 OpenAI 或 Anthropic 公布成本数据的地方,对账功能会每日对比两者。
INFRO 会在我的模型支出上增加任何费用吗?
不会。加价为 0%:你的提供商直接就推理向你收费,INFRO 另外收取软件订阅费。INFRO 的任何界面都绝不会把两者相加。
哪些 FinOps 工具可以读取这个导出?
任何能以 CSV 或 JSON 加载 FOCUS v1.4 Cost and Usage 数据集的工具,或任何能用网关密钥调用用量 API 的东西。
实战指南
- 实战指南LLM FinOps: control AI spend without slowing product teamsLLM FinOps is the operating system around inference spend: ownership, allocation, budgets, anomaly response, and quality-adjusted unit economics.
- 实战指南Attributing AI cost to customers, features and teamsThe provider's finest unit of cost is an account structure you created for its convenience. The dimensions your business runs on — customer, feature, team — only exist where the request passes through something you control.
- 实战指南Showback and chargeback for AI spendProvider invoices arrive per account, not per team. Showback and chargeback for AI spend depend on tagging every request at the source, booking it with rules finance can audit, handling shared costs openly, and closing each month so it never moves.