问题所在
基础设施问题每次都是同一个。
智能体、视频工具、SEO 产品、销售助手——这些产品看起来毫不相同,底层的管道却最终几乎一样。提供商、路由、重试、延迟、用量、费用、预算、可靠性。INFRO 为这些东西提供了一个不在你代码库里的位置。
这些都不能交付任何功能。它们全都要你来维护,而且每出一次事件就多堆一层。
- 每个提供商一个账号、一个密钥,各有各的请求格式
- 重试、超时,以及你为应对限流所做的一切
- 按模型计算费用,以及一张很快就过时的电子表格
- 在第一次没人能解释的事件之后才补上的日志
这些决定中的每一个,在你做出它的那天都是合理的。
你能得到什么
四件事,每一件都是你原本要自己做的工作。
一次集成,而不是每个提供商一次
文本使用 OpenAI 的请求格式,因此现有客户端只需指向新的基础 URL。图像、视频和音频在所有模型上使用同一种 INFRO 格式,而不是每个模型一套不同的 SDK。
提供商的选择不再牵动你的代码
添加模型、迁移工作负载,或为某个模型配置备用连接,都是在这一层修改,而不需要部署。每个响应仍会注明为其提供服务的提供商和连接,因此没有任何东西对你隐藏。
每个请求都连同其费用一起记录
模型、路由、延迟、token 或计量单位,以及预估提供商费用——可归因到项目、密钥或你自己的某个终端用户。当有人问起利润率时,你需要的就是这个数字。
一个会直接拦截、而不是发邮件的上限
一个失控的循环或一个糟糕的提示词,换来的就是账单。为项目或密钥设置支出限额并设为拦截,就会在调用提供商之前于上限处拒绝请求,而不是事后通知你。
产品
每个请求都附带一份你的提供商将为其收取费用的估算,并归因到项目、密钥、客户或功能——按厂商公布的价格计算;在 Team 套餐上填入你的协商价后,则按协商价计算。
- 已处理
- 3 / 4
- 已通过回退恢复
- 1
- 在到达提供商之前被拒绝
- 1
- 预估提供商费用
- $0.0100
- DeepSeekdeepseek-prod主目标提供商出错或超时时
- Fireworks AIfireworks-prod回退提供商出错或超时时
- Together AItogether-prod回退
- 连接
- 3
- 失败中
- 0
- 收费方
- 你的提供商
- INFRO 加价
- 0%
组织
$2,840/ $5,000
已用 57% · 按当前速度月底将达到 $6,424
每日今天 $238
按项目
没有超过提醒阈值的选择一个请求,查看每次尝试、其延迟和预估费用。
随着用量增长,模型支出不再是一项功能成本,而成为产品经济的一部分——每个提供商的月度总额也不再能回答问题。最适合在底层加上这一层的时机,是在这个数字大到需要解释之前。
接入
如果你的产品已经通过兼容 OpenAI 的 API 调用文本模型,你可以保留客户端和请求代码,只改三个值。
- API 密钥
- 一个 INFRO 网关密钥。提供商凭据密封在 INFRO 内部。
- 基础 URL
- https://api.infro.io/v1
- 模型
- 一个 vendor/model ID,或你配置的一条路由规则。
响应保持 OpenAI 的格式。INFRO 自己的拒绝有专门的错误代码。
import osfrom openai import OpenAI client = OpenAI(删除: api_key=os.environ["OPENAI_API_KEY"],新增: api_key=os.environ["INFRO_API_KEY"],新增: base_url="https://api.infro.io/v1",) response = client.chat.completions.create(删除: model="gpt-5.6-terra",新增: model="openai/gpt-5.6-terra", messages=messages,)问题
每个问题一句话作答,包括那些答案是你不必费心的问题。
- 我需要重写什么吗?
- 对于文本,不需要——一个基础 URL、一个密钥和一个模型字符串即可。你的客户端库、请求体、响应解析和错误处理都保持不变。
- 以我的规模,这有必要吗?
- 在你接入第二个提供商、遇到第一次事件,或收到第一张没人能解释的账单时,它就有了用武之地。如果你只用一个厂商的一个模型、花费不多,那就直接对接——我们宁愿直说,也不想浪费你的评估时间。
- 我必须把所有东西都迁过来吗?
- 不需要。把一个端点指向它,其余保持原样,然后对比。离开时只需反向做同样的改动。
- 会让我多花钱吗?
- 你的提供商继续按你自己的价格向你收费,INFRO 从中收取 0%。你付给 INFRO 的是控制平面的固定订阅费,公布在定价页面上——四个套餐,每月 $35 起,每个都有 14 天试用。INFRO 销售的任何东西都不按 token 计价,因此提示词变长或模型变贵时,它都不会变化。套餐确实会随请求量升级,而每一档都是你自己选择的公开价格。
- 我能在和任何人交谈之前先看看吗?
- 提供商页面列出了你可以连接的所有提供商,完整的 API 契约在文档中,所有套餐都在定价页面上。控制台本身需要账号——你可以自行创建——但本页上的其他内容都无需通过沟通来核实。
其他内容都在常见问题中,包括 INFRO 本身出故障时会发生什么。