能阻止支出的预算
达到阈值时提醒,或在调用提供商之前于限额处拦截。
- A. Keller60%
- M. Okafor66%
- S. Lindqvist60%
- J. Barros27%
角色、预算、模型策略和每个请求的费用,基于你已有的提供商合同。
INFRO 账号可自助开通。 模型目录、文档和 API 契约已公开,网关已部署,v1 之后的所有功能都标注为“后续”。 套餐与试用
问题所在
六个团队、六个提供商账号、六种日志方式。在下面加一层,各团队保持原有的速度。
没有控制平面
使用 INFRO
控制
在网关中执行,在请求到达你的提供商之前。
达到阈值时提醒,或在调用提供商之前于限额处拦截。
按组织、项目或密钥审批模型。
→ 403 model_not_allowed
按项目、密钥,或你附加的终端用户 ID。
密钥限定于一个项目,因此影响范围只有一个项目。
单点登录和目录同步。
Business 套餐起包含。新功能:目前还没有客户的身份提供商在生产环境中完成过一次完整往返,因此我们会和你一起规划第一次。
在数据库中只能追加,而不是靠约定。
连续性
路由会在响应开始之前,在你的另一个连接上重试符合条件的失败。
这里没有编造的可用性数字。协议中包含带有补救措施的可用性承诺。
Enterprise — 通过企业协议提供,而非自助开通。把密钥、基础 URL 和模型 ID 换回去。请求和用量历史可通过 API 导出。
协议
软件及其条款。从不涉及由谁就模型用量向你收费。
限额
这些现在就发现,好过到第四周才发现。
常见问题
通过一个组织,下设项目和环境。邀请成员并分配角色(所有者、管理员、开发者、分析师),为每位成员和每个项目设置各自的支出上限,限制每个项目可调用的模型,并通过审计日志查看谁改了什么。每个团队都有自己的密钥、预算和模型策略,因此一个项目中失控的工作负载不会花掉另一个团队的额度——同时组织仍能统一查看所有团队。从 Business 套餐起,成员可以通过你自己的身份提供商以 SAML 或 OIDC 登录,你的目录也可以通过 SCIM 创建和停用他们的 INFRO 成员身份。
这正是我们的设计。你连接自己已有的提供商账号,因此你的协商价、承诺支出、折扣、配额和企业协议都会和现在一样继续适用——由你的提供商按你的价格向你收费,INFRO 不从中抽取任何部分。如果你协商的价格低于公开价,Team 及以上套餐允许你在控制台中录入这些价格,此后 INFRO 显示的每个成本数字都会按你的价格计算,而不是按公开价。离开和接入一样只需改两行:把基础 URL 和密钥改回去即可,你的提供商账号不受任何影响,因为它们一直是你的。
我们会成为又一个依赖——这是这笔取舍的真实代价,你应该把它考虑进去。有三点让它可以承受。状态页运行在一套与网关分离、简单得多的部署上,并从你自己的浏览器检查网关。文本使用 OpenAI 的格式,因此在配置中保留一个直连提供商的密钥和一个基础 URL 开关,就是一个只需两行的应急方案,我们也积极推荐这样做。此外,我们没有公布可用性 SLA,因为没有运营历史的服务无法诚实地提供 SLA;企业协议可以包含合同约定的 SLA。
可以,回迁也只需改当初接入时的那两行。通过公共 API 获取请求和用量历史,或从请求日志和 Analytics 下载 CSV,并在数据超出你套餐的可查询历史期限之前保存到你自己的系统中。我们不提供定时导出或邮件导出。
我们绝不用你的提示词、输入或输出进行训练,也绝不出售它们。用量元数据用于平台计量、成本估算和治理。可选的提示词和响应日志默认关闭,并受你套餐的限制。交付所需的任务记录和生成的媒体文件另行存储。你的 AI 提供商对数据的使用和保留设置,仍受你与它们之间协议的约束。
尚不能,我们也不会声称可以。区域处理需要我们尚未购买的基础设施权限,而一个看起来像欧洲的主机名只是一个合规声明,客户用一次请求就能证伪。当它真正得到执行时我们会说明;在此之前,请假定请求会在有容量的任何地方处理,并把这当作一个理由:在签署任何依赖数据驻留的协议之前,先与我们沟通。
没有,我们也不会在幻灯片上暗示有。取而代之的是公开发布而非口头承诺的内容,见 /trust:一份 SOC 2 路线图,已聘请审计机构,观察期尚未排定;ISO 27001 标注为评估中,未承诺日期;今天已执行的控制措施与尚未执行的并列列出;以及我们对一份标准安全问卷的回答,作为文档供你下载,无需与我们联系。包含标准合同条款的 DPA、子处理方列表和可接受使用政策也全文公布。你仍然可以发来自己的问卷——我们会回答每一个问题,包括答案是“尚未”的那些。如果证书在你这边是硬性门槛,请一开始就告诉我们,我们会直接说明今天无法满足。
基础设施供应商列在 /subprocessors,通知期限和紧急例外也在那里说明。你所连接的 AI 提供商由你自行选择并直接签约。请求追踪记录会标明尝试过的连接;提供商对数据的使用和保留遵循你自己的协议和账号设置。
可以,需签订企业协议:订阅费按你的条款按季度或按年开具发票,而不是从银行卡扣款。这份发票只针对软件。模型用量由你自己的提供商按你与它们已有的条款向你开具发票,与 INFRO 的任何安排都不会改变这一点,也不会把它放到 INFRO 的发票上。
完整的问答列表涵盖延迟、定价机制和提供商服务中断。
联系
告诉我们你的团队目前在运行什么。会有一名工程师通过邮件回复,并直接告诉你 INFRO 在哪些地方不适合。
需要为特定工作负载要一个数字?申请工作负载估算。或写信至 sales@infro.io。