跳到正文

AI 网关

一个网关,位于你已在使用的 AI 提供商之前。你的账号,你的价格,模型支出零加价。

在第 14 天之前取消,不收取任何费用。

  • 路由由规则为每个请求选择模型。
  • 故障转移一家提供商失败时,另一家接手。
  • 预算每次调用前都检查支出限额。

你的提供商,经由一个网关路由

OpenAIAnthropicGoogle AI (Gemini)Azure OpenAIAWS BedrockGoogle Vertex AIxAIMistralCohereGroqTogether AIFireworks AIDeepSeekOpenRouterRunwayTypeSafeCloudflare Workers AIInceptionLiquid AIUpstageMoonshot AI (Kimi)Z.ai (GLM)MiniMaxAlibaba Cloud Model StudioCerebrasPerplexityElevenLabsfal.aiReplicate

在运营 AI API?加入提供商计划

路由

一股请求流进入层叠的玻璃控制平面,分出多条路径通往五个提供商端点。

连接你已拥有的提供商账号。你的应用调用一个 API;每个请求都使用你的凭据运行,并由你的提供商收费。

路由规则的工作方式 支持的提供商

产品

就在这里查看请求、测试回退、连接提供商并设置预算。

请求

4 个请求 · 最近 15 分钟

时间项目提供商状态延迟预估费用
已处理
3 / 4
已通过回退恢复
1
在到达提供商之前被拒绝
1
预估提供商费用
$0.0100

选择一个请求,查看每次尝试、其延迟和预估费用。

开发者

保留你的 OpenAI 客户端。改三行代码,或者让你的编程智能体来改。

API 密钥
一个 INFRO 网关密钥。提供商凭据密封在 INFRO 内部。
基础 URL
https://api.infro.io/v1
模型
一个 vendor/model ID,或你配置的一条路由规则。

响应保持 OpenAI 的格式。INFRO 自己的拒绝有专门的错误代码。

app.py+3−2
import osfrom openai import OpenAI client = OpenAI(删除:    api_key=os.environ["OPENAI_API_KEY"],新增:    api_key=os.environ["INFRO_API_KEY"],新增:    base_url="https://api.infro.io/v1",) response = client.chat.completions.create(删除:    model="gpt-5.6-terra",新增:    model="openai/gpt-5.6-terra",    messages=messages,)

通过 /manage/v1 以代码方式配置项目、密钥、路由规则和预算。 管理 API

平台

每项能力都在你连接的提供商账号上运行。

规则决定请求去往哪里。失败规则决定接下来发生什么。

为路由规则添加 if 规则,并选择每种失败的处理方式。

  • 按请求匹配。 元数据、功能、用户、密钥、提示词大小、工具或时段。
  • 重试、故障转移或停止。 按失败类型选择:速率限制、服务器错误、超时、连接或凭据。
  • 每家提供商可有多个密钥。 活跃密钥分担流量;备用密钥负责接手。

故障转移在响应开始之前生效。中断的流不会重新开始。

一个带有 feature support-triage 的请求到达名为 support 的路由规则。它的第一条规则 long-prompts 会把预估输入超过 32,000 token 的提示词发送到 Vertex AI 连接,未匹配。第二条 support-triage 匹配,把请求发送到 Anthropic 连接,然后是 AWS Bedrock 连接。Anthropic 返回 429,路由规则针对 rate_limit 的失败规则为 failover,于是由 Bedrock 连接处理:响应中注明了路由规则、链中位置 standby_a 以及提供商。

在你已在付费的提供商上生成图像、视频和声音,从第一个提示词到剪辑软件能打开的成片。

示例项目 夜市:一支 30 秒、共 9 个镜头的短片。每张关键帧都由 GPT Image 2 生成,并在视频模型上做成动画,语音、音效和音乐则由组织自己的提供商的音频模型生成。

所有套餐均提供,无需附加组件。模型支出零加价。

决策模型

决策模型以概率回答类型化的问题。INFRO 把每个答案转化为一个动作:一个模型、一次拦截、一次批准、一个标签。

8决策模型,一个 API每个都运行在你自己的提供商账号上。
POST/v1/chat/completions路由分类器

三个提示词到达一条路由规则。对每一个,决策模型回答一个选择题:这个请求需要多少推理,并给出 small、medium 和 large 的概率。INFRO 的路由规则把请求发送到最可能类别对应的模型,响应在 X-INFRO-Route-Class 标头中注明类别。 此处由 OpenAI 的 GPT-6 Luna (Decisions) 作答。

  • 你的提供商账号每次决策都运行在你自己的连接上,由你的提供商收费。
  • 在你的预算之内调用前按密钥范围和支出限额检查。
  • 连同费用一起记录每次调用都是请求日志中的一行:模型、答案、预估费用。

定价

所有套餐都提供角色、预算和模型策略。按年付费约少付 2 个月的费用。

  • Developer

    你在生产环境中的第一个 AI 功能,在提供商失败时有回退。

    $35/ 月

    网关请求
    100k / 月
    席位
    1
  • Startup

    面向模型账单增长快于团队人数的 AI 初创公司。

    $79/ 月

    网关请求
    500k / 月
    席位
    3
  • Team

    每位客户、每个功能和每个密钥的成本,供按此为自己产品定价的团队使用。

    $199/ 月

    网关请求
    2M / 月
    席位
    10
  • Business

    把 OpenAI 和 Anthropic 报告的成本与你自己的日志核对。

    $599/ 月

    网关请求
    10M / 月
    席位
    无限制

Enterprise

面向有采购流程、安全评审和自有条款的组织。

定制价格

按季度或按年开票。 模型支出零加价。

包含 Business 的全部功能(含 SSO 和 SCIM),另加

  • 自托管或混合部署: 部署在你自己的云中,或与我们托管的控制台组成混合部署。
  • 合同 SLA: 可用性写入合同,附带补救措施。
  • 指定的工程师: 共享频道和约定的事件响应时间。
  • 定制请求量: 超出 Business 每月包含的 10M 后,与你商定。
  • 365 天历史: 最多 365 天的请求历史;Business 保留 90 天。
  • 你的 MSA 和 DPA: 审阅你方的合同文本,并书面回答你的安全问卷。

14 天试用 · 需要绑定银行卡 · 在第 14 天之前取消,就不会被扣费 · 模型支出零加价。

常见问题

INFRO 到底是什么?

INFRO 是 AI 网关和控制平面:在你的应用与你已经付费的 AI 提供商(如 OpenAI、Anthropic 和 Google)之间的一个 API。你连接自己的提供商账号,保留你的合同和价格;INFRO 路由每个请求,在提供商返回错误时进行故障转移,在调用前检查预算,记录每个请求的延迟和预估费用,并对密钥、模型和数据执行策略。工程团队用它以一次集成覆盖文本、图像、视频和音频;财务团队用它按团队、项目和客户查看支出;平台和安全团队用它集中管控提供商密钥和模型访问。模型用量由你的提供商按你的价格直接向你收费;INFRO 按月收取软件订阅费,对模型支出 0% 加价。

为什么要用 INFRO,而不是直接调用 OpenAI 或 Anthropic?

如果你只用一家厂商的一个模型,而且没人问过它花了多少钱,那你大概应该直接调用——这是一个真实的答案,我们宁愿直说,也不想浪费你的评估时间。当以下至少一项成立时,INFRO 才有价值:你在多家厂商上运行多个模型;某次提供商故障曾让你的产品停摆;有人开始问哪个客户或功能花了多少钱;或者提供商密钥开始出现在不止一个地方。你仍然在同样的账号上调用同样的提供商;只是不必再自己负责它们之间的集成、故障转移和账目核算。

试用如何开始?

在 dash.infro.io 创建账号并验证邮箱地址。你创建组织、选择套餐并在结账时添加银行卡,14 天试用在结账完成时开始。第 14 天结束时,系统会自动按你所选的套餐扣款——在第 14 天之前取消则不会扣费。在此期间,模型用量始终由你的提供商直接向你收费。

我能通过 INFRO 运行 TypeSafe 的 Jev 吗?

可以。INFRO 提供 TypeSafe 的 POST /v1/systemone,使用 TypeSafe 的请求体和模型名称,因此只需换一个基础 URL 和一个 INFRO 网关密钥,TypeSafe 的 SDK 就能对接 INFRO。每次决策都在你自己的 TypeSafe 账号上运行,由 TypeSafe 直接向你收费。调用 TypeSafe 之前,INFRO 会检查密钥以及任何支出限额;之后返回 TypeSafe 的答案,附上作答的版本和预估费用,并记录该请求。

如果 INFRO 本身出故障怎么办?

我们会成为又一个依赖——这是这笔取舍的真实代价,你应该把它考虑进去。有三点让它可以承受。状态页运行在一套与网关分离、简单得多的部署上,并从你自己的浏览器检查网关。文本使用 OpenAI 的格式,因此在配置中保留一个直连提供商的密钥和一个基础 URL 开关,就是一个只需两行的应急方案,我们也积极推荐这样做。此外,我们没有公布可用性 SLA,因为没有运营历史的服务无法诚实地提供 SLA;企业协议可以包含合同约定的 SLA。

以后可以离开吗?

可以,回迁也只需改当初接入时的那两行。通过公共 API 获取请求和用量历史,或从请求日志和 Analytics 下载 CSV,并在数据超出你套餐的可查询历史期限之前保存到你自己的系统中。我们不提供定时导出或邮件导出。

我们公司的数据如何处理?你们会用它训练吗?

我们绝不用你的提示词、输入或输出进行训练,也绝不出售它们。用量元数据用于平台计量、成本估算和治理。可选的提示词和响应日志默认关闭,并受你套餐的限制。交付所需的任务记录和生成的媒体文件另行存储。你的 AI 提供商对数据的使用和保留设置,仍受你与它们之间协议的约束。

还有 23 个回答

从你自己的提供商账号开始,或先和我们的团队一起看看产品。