跳到正文

使用场景治理

一套策略,决定哪些模型、数据和人员可以访问你的提供商。

写在 wiki 里的策略只是建议。网关中的策略会在每个请求上强制执行:项目可以调用哪些模型,提示词中可以出现什么,密钥可以访问哪个环境,以及谁更改了其中任何一项。

支付项目 · 生产密钥示例
模型不在项目允许列表中 → 403 model_not_allowed
提示词发现银行卡号 → 在调用之前脱敏
密钥仅限生产环境 · 预发布连接不可达
审计管理员更改了允许列表,09:42 UTC

策略示例。模式检测可能漏掉一些东西;它降低风险,但不能消除风险。

问题所在

没有控制平面

  • 每个团队各自选择模型和提供商。
  • 个人数据和密钥随提示词到达提供商,而没有人看见。
  • 没人能说清是谁授予了某个密钥访问权限,或是什么时候。

使用 INFRO

  • 按组织、项目和密钥设置的允许列表,以策略错误拒绝。
  • 护栏会阻断、脱敏或标记提示词和响应中的敏感模式。
  • 每一次成员、密钥和策略变更都在审计日志中。

运作方式

  1. 相互独立的环境

    生产、预发布和开发环境,外加你自己的环境。密钥只属于其中一个,永远不会触达它之外的连接。

  2. 批准模型和数据

    允许列表规定每个范围可以调用哪些模型;护栏检查提示词和响应中你选定的模式。

  3. 控制谁可以更改它

    角色、成员的项目访问权限、来自你的身份提供商的 SSO 和 SCIM,以及记录每次变更的审计日志。

你能得到什么

每一项都有文档说明,并注明包含它的套餐。未注明套餐的,所有套餐都提供。

  • 模型允许列表

    按组织、项目和密钥允许或阻止模型;仅含阻止项的列表也涵盖未来的模型。

    文档
  • 护栏Business 起

    在提示词和响应中阻断、脱敏或标记电子邮件地址、银行卡号、IBAN、API 密钥和你自己指定的术语。

    文档
  • 环境

    一个连接或路由可服务一个、多个或所有环境;每个密钥只属于一个环境。

    文档
  • 项目访问权限

    将开发者或分析师限制在部分项目;网关会拒绝其对整个组织范围的一切访问。

    文档
  • SSO 和 SCIMBusiness 起

    基于你的身份提供商的 SAML 或 OIDC 登录,以及创建和停用成员的 SCIM 同步。

    文档
  • 审计日志

    成员、密钥和策略变更,带操作人和时间戳,在控制台中查看。

    文档

适用对象

  • 安全团队在请求路径上强制执行的控制,并记录是谁更改了它们。
  • 合规一个地方就能回答你的组织使用哪些模型和提供商,以及遵循什么规则。
  • 平台负责人团队在策略之内快速推进,而不是为每个模型等待一次评审。

常见问题

护栏能拦住所有情况吗?

不能。它们是模式检查,另外可选用在你自己的决策模型连接上运行的分类器检查。检测可能漏掉一些东西,文档会说明检查了哪些模式。

INFRO 会存储我们的提示词吗?

提示词和补全内容的日志记录默认关闭。如果你开启,保留窗口由你选择。

哪个套餐包含 SSO 和护栏?

护栏从 Business 套餐起包含,SSO 与 SCIM 从 Business 套餐起包含。允许列表、环境和审计日志在每个套餐中都有。

完整约定见模型允许列表文档,其他所有问题见 FAQ。

开始使用

在你自己的提供商账号上试用。

连接一个提供商,创建一个网关密钥,修改一个基础 URL。你的提供商继续直接向你收费;模型支出零加价。