跳到正文

使用场景AI FinOps

每个 AI 请求,在发票到来之前就完成归因。

每个请求都会记录其模型、项目、密钥,以及按你自己的费率得出的预估提供商费用。按造成它的团队、功能或客户分组,与提供商报告的数字比较,并发送到你已在使用的 FinOps 工具。

预估提供商费用 · 10 月 · 按功能分组示例
summarize$1,284.10 · 41%
search$902.55 · 29%
support-agent$688.20 · 22%
未归因$251.40 · 8% · 未发送任何功能

组织示例。预估提供商费用,由你的提供商向你收费;INFRO 的订阅费另计。

问题所在

没有控制平面

  • 每家提供商一张发票,没有一行写明是哪个团队造成的。
  • 每个估算里都是公开价,而你的合同实际采用的是其他费率。
  • AI 支出位于持有其余云成本的 FinOps 平台之外。

使用 INFRO

  • 按项目、密钥、成员、功能或终端客户分组的成本。
  • 优先于厂商公开价使用你的协商价。
  • 为你已在运行的工具提供 FOCUS 数据集和用量 API。

运作方式

  1. 在源头打标签

    项目和密钥会自动归因每个请求;X-INFRO-Feature 和 X-INFRO-User-Id 则补充产品功能和终端客户。

  2. 按你的费率定价

    按模型和提供商录入你合同中的费率。估算会优先使用它们,而不是公开价;任何没有已知价格的内容都显示为未定价,绝不显示为 $0。

  3. 闭环

    将估算与提供商报告的成本进行比较,跟踪承诺用量,并将结果导出为 FOCUS 或通过用量 API 提供。

你能得到什么

每一项都有文档说明,并注明包含它的套餐。未注明套餐的,所有套餐都提供。

  • 支出归因

    按模型、项目、密钥、成员、功能或你附加在请求上的终端用户 id 对成本分组。

    文档
  • 你的协商价Team 起

    录入你合同中的费率,这样估算会优先使用它们,而不是厂商的公开价。

    文档
  • 对账Business 起

    每日将预估支出与 OpenAI 和 Anthropic 自己的成本 API 比较,并给出差异的可能原因。

    文档
  • 成本中心与对账单Team 起

    规则把请求分配给财务用于分摊的成本中心;月度账单汇总每个成本中心。

    文档
  • FOCUS 和用量导出

    GET /v1/usage 和 /v1/requests,控制台的 CSV,以及供你的 FinOps 平台使用的 FOCUS v1.4 数据集。

    文档
  • 摘要与月度报告

    支出与预算及其预测放在同一页上,每周一通过邮件发送,并附可打印的月度报告。

    文档

适用对象

  • FinOps 从业者AI 支出采用与你其余云成本相同的 FOCUS 格式,在月底之前完成归因。
  • 财务负责人基于使用你合同费率的数字,按团队进行成本展示或分摊。
  • 工程经理不用电子表格,就能看出本周是哪个功能、模型或密钥让数字发生了变化。

常见问题

INFRO 显示的成本就是我的提供商将收取的费用吗?

它是对提供商费用的估算,来自公开价或你录入的协商价。你的提供商的发票才是最终数字。在 OpenAI 或 Anthropic 公布成本数据的地方,对账功能会每日对比两者。

INFRO 会在我的模型支出上增加任何费用吗?

不会。加价为 0%:你的提供商直接就推理向你收费,INFRO 另外收取软件订阅费。INFRO 的任何界面都绝不会把两者相加。

哪些 FinOps 工具可以读取这个导出?

任何能以 CSV 或 JSON 加载 FOCUS v1.4 Cost and Usage 数据集的工具,或任何能用网关密钥调用用量 API 的东西。

完整约定见成本归因文档,其他所有问题见 FAQ。

开始使用

在你自己的提供商账号上试用。

连接一个提供商,创建一个网关密钥,修改一个基础 URL。你的提供商继续直接向你收费;模型支出零加价。