提供商
连接你已在付费使用的账号。
INFRO 在你自己的提供商账号上运行你的请求。合同、协商价、配额和发票都归你——网关在这些之外增加路由、故障转移、请求追踪记录、成本归因和策略。你付给厂商的费用,它分文不取。
INFRO 账号可自助开通。 模型目录、文档和 API 契约已公开,网关已部署,v1 之后的所有功能都标注为“后续”。 套餐与试用
你的提供商账号。你的路由规则。
连接你的组织使用的提供商。直接选择模型,或通过你配置的路由发送请求。
提供商连接
示例数据你的组织自己的提供商账号。
生产路由规则
示例数据请求尝试你的各个提供商的顺序。
- 1. 主目标OpenAIopenai-prod
- 2. 回退 1Anthropicanthropic-prod
- 3. 回退 2Googlegoogle-prod
请求先尝试 OpenAI。如果在响应开始之前出现符合条件的错误或超时,请求会转到 Anthropic,然后是 Google。
命名路由
使用你配置的目标。
直接指定模型
使用一个符合条件的已连接提供商。
无连接
返回一个错误,并指明需要连接的提供商。
路由返回第一个成功的目标。只有在响应开始之前出现符合条件的提供商故障时,才会运行后面的目标——绝不会用来绕过预算或模型策略。
你的账号。你的密钥。提供商直接向你收费。
阅读连接指南可连接的提供商
目前支持 32 种类型,外加任何兼容 OpenAI API 的服务器——自托管的 vLLM、Ollama、LiteLLM,或部署在你自己网关后面的内部模型。一个连接就是某个环境中某种类型的一份凭据,一个组织可以拥有多个同类型连接:例如预发布和生产使用不同账号,或一条路由规则背后有两个 Bedrock 区域。
控制台的选择器提供的正是这份列表。 搜索每家提供的模型。
Google AI (Gemini)
通过 Gemini API 的 OpenAI 兼容端点使用 Gemini 模型。
Azure OpenAI
你的 Azure OpenAI 资源及其部署。
AWS Bedrock
你 AWS 账号上的模型,使用 Bedrock API 密钥。
Google Vertex AI
你 Google Cloud 项目中的 Gemini 和 Claude 模型,使用服务账号密钥。
Mistral
你 Mistral 账号上的 Mistral 模型。
Cohere
通过 Cohere 的 OpenAI 兼容端点使用 Command 模型。
Groq
在 Groq 硬件上运行的开放权重模型,使用你的 Groq 账号。
Together AI
你 Together 账号上的开放权重模型。
Fireworks AI
你 Fireworks 账号上的开放权重模型。
OpenRouter
OpenRouter 上列出的任意模型,在你的 OpenRouter 账号上运行。
Runway
你 Runway API 账号上的 Runway Gen-4.5 以及 Runway 提供的视频模型。
KIE
你 KIE 账号上的 Claude、GPT、Grok、Gemini 和 Kimi 对话模型,以及 Nano Banana、GPT Image、Seedream 和 Seedance 媒体模型。
LaoZhang API
你 LaoZhang 账号上的 GPT、Gemini、Grok、DeepSeek、Kimi、GLM 和 MiniMax 对话模型,以及图像模型、Seedance 和 Wan 视频模型。
TypeSafe
你 TypeSafe 账号上的 Jev 结构化决策(选择、评分、是/否)。
Cloudflare Workers AI
你 Cloudflare 账号上的 Clef 决策(是或否、选择、评分)。
MiniMax
你 MiniMax 账号上的 MiniMax M 系列模型。
Alibaba Cloud Model Studio
你 Alibaba Cloud Model Studio 账号上的 Qwen 模型。
Cerebras
在 Cerebras 硬件上运行的开放权重模型,使用你的 Cerebras 账号。
fal.ai
你 fal.ai 账号上来自众多厂商的图像和视频模型。
Replicate
你 Replicate 账号上的官方图像和视频模型。
OpenAI 兼容端点
兼容 OpenAI API 的自托管或内部服务器:vLLM、Ollama、LiteLLM、TGI,或你自己的服务器。
凭据会怎样处理
把提供商密钥交给第三方,是 BYOK 中最值得审视的部分,所以这里把全部情况都写清楚。
存储前先密封
使用不存放在数据库中的密钥进行 AES-256-GCM 加密,并绑定你的组织和该连接——因此复制到另一行或另一个租户的密封值会无法解开,而不会以你的身份通过认证。
只写,不可查看
凭据保存后,没有任何途径会再返回它。控制台显示最后四个字符,方便你区分两个密钥,并提供替换和吊销。没有任何按钮能把它显示出来,对任何人都没有,包括我们。
你的应用从不携带它
它们使用有作用范围的网关密钥向 INFRO 认证,你可以对其限速、限定到某个项目或环境,并单独吊销。提供商凭据不再被复制到每个服务和每台笔记本电脑中。
仅用于你的请求,别无他用
INFRO 使用此密钥代表你向该提供商发送请求,并读取其报告的用量。它从不读取你的提供商账号、账单或任何其他内容。
离开和接入一样简单:吊销连接,把应用中的基础 URL 改回提供商的地址,你的账号原样继续运行——它们一直都是你的。 Trust Center · 子处理方
未列出的提供商
如果它兼容 OpenAI API——自托管的 vLLM、Ollama、LiteLLM,或部署在你自己网关后面的内部模型——现在就可以把它作为 OpenAI 兼容端点连接:填写它的 HTTPS 基础 URL、需要时提供密钥,以及你想路由的模型。之后你的应用就像使用其他连接一样,通过 INFRO 在你自己的账号上调用它们。如果提供商有自己的 API 格式,请告诉 support@infro.io 你使用的是哪一家。
Provider Program
在运营 AI API?让 INFRO 来集成。
大约五分钟即可申请。工程师审核你的 API,然后我们构建并验证集成。团队连接他们自己在你这里的账号,并继续直接向你付费。
- Connect 页面和 Connect to INFRO 按钮用于你的文档。读者进入设置时,你的 API 已被选中。
- INFRO Verified 标识以我们的测试套件针对你的线上 API 最近一次通过的日期为准。绝不出售。
- 一个用于你申请的私有页面进展情况、我们接下来需要什么,以及安全发送测试访问权限的方式。
- 触达 INFRO 客户的渠道弃用、事件和新模型,转达给使用你 API 的团队。
文档 / 集成
通过 INFRO 使用你的账号
通过 INFRO,使用你在我们这里账号上的密钥,对发往我们 API 的请求进行路由、预算控制和追踪。
- 第 1 步: 申请大约五分钟,使用公司邮箱。
- 第 2 步: 审核每份申请都由工程师亲自阅读。
- 第 3 步: 测试访问测试密钥,通过你的私有页面发送。
- 第 4 步: 集成与验证适配器、模型映射、测试、一次线上运行。
- 第 5 步: 已上线你的页面上线;你拿到按钮。
- 加入无需费用
- 没有收入分成
- 没有推荐费
- 没有付费排名
- 从不改变路由