跳到正文

提供商

连接你已在付费使用的账号。

INFRO 在你自己的提供商账号上运行你的请求。合同、协商价、配额和发票都归你——网关在这些之外增加路由、故障转移、请求追踪记录、成本归因和策略。你付给厂商的费用,它分文不取。

INFRO 账号可自助开通。 模型目录、文档和 API 契约已公开,网关已部署,v1 之后的所有功能都标注为“后续”。 套餐与试用

你的提供商账号。你的路由规则。

连接你的组织使用的提供商。直接选择模型,或通过你配置的路由发送请求。

提供商连接

示例数据

你的组织自己的提供商账号。

提供商凭据状态
OpenAIopenai-prod凭据尾号 a3f2已连接
Anthropicanthropic-prod凭据尾号 7c9d已连接
Googlegoogle-prod凭据尾号 e8b1已连接
凭据已密封,永远不会完整显示。

生产路由规则

示例数据

请求尝试你的各个提供商的顺序。

  1. 1. 主目标OpenAIopenai-prod
  2. 2. 回退 1Anthropicanthropic-prod
  3. 3. 回退 2Googlegoogle-prod

请求先尝试 OpenAI。如果在响应开始之前出现符合条件的错误或超时,请求会转到 Anthropic,然后是 Google。

只有在符合条件的提供商失败之后、且响应尚未开始时,才会运行回退。
  • 命名路由

    使用你配置的目标。

  • 直接指定模型

    使用一个符合条件的已连接提供商。

  • 无连接

    返回一个错误,并指明需要连接的提供商。

路由返回第一个成功的目标。只有在响应开始之前出现符合条件的提供商故障时,才会运行后面的目标——绝不会用来绕过预算或模型策略。

你的账号。你的密钥。提供商直接向你收费。

阅读连接指南

可连接的提供商

目前支持 32 种类型,外加任何兼容 OpenAI API 的服务器——自托管的 vLLM、Ollama、LiteLLM,或部署在你自己网关后面的内部模型。一个连接就是某个环境中某种类型的一份凭据,一个组织可以拥有多个同类型连接:例如预发布和生产使用不同账号,或一条路由规则背后有两个 Bedrock 区域。

控制台的选择器提供的正是这份列表。 搜索每家提供的模型。

OpenAI

你 OpenAI 账号上的 GPT 模型、图像、语音和转写。

提供OpenAI
模态文本, 图像, 音频, Embeddings
你粘贴的内容API 密钥

Anthropic

你 Anthropic 账号上的 Claude 模型。

提供Anthropic
模态文本
你粘贴的内容API 密钥

Google AI (Gemini)

通过 Gemini API 的 OpenAI 兼容端点使用 Gemini 模型。

提供Google
模态文本, 图像, 视频, 音频
你粘贴的内容API 密钥

Azure OpenAI

你的 Azure OpenAI 资源及其部署。

提供OpenAI, Microsoft
模态文本, 图像, 音频, Embeddings
你粘贴的内容API 密钥 + 资源名称
模型 ID按模型映射的部署名称

AWS Bedrock

你 AWS 账号上的模型,使用 Bedrock API 密钥。

提供OpenAI, xAI, Moonshot, MiniMax
模态文本
你粘贴的内容Bedrock API 密钥 + 区域
模型 ID你账号上的任意模型,格式为 aws-bedrock/<model id>

Google Vertex AI

你 Google Cloud 项目中的 Gemini 和 Claude 模型,使用服务账号密钥。

提供Google, Anthropic
模态文本, 图像, 音频
你粘贴的内容服务账号密钥(JSON)+ 项目

xAI

你 xAI 账号上的 Grok 模型。

提供xAI
模态文本, 音频, 视频
你粘贴的内容API 密钥

Mistral

你 Mistral 账号上的 Mistral 模型。

提供Mistral, Z.ai
模态文本, 音频, Embeddings
你粘贴的内容API 密钥
模型 ID你账号上的任意模型,格式为 mistral/<model id>

Cohere

通过 Cohere 的 OpenAI 兼容端点使用 Command 模型。

提供Cohere
模态文本
你粘贴的内容API 密钥
模型 ID你账号上的任意模型,格式为 cohere/<model id>

Groq

在 Groq 硬件上运行的开放权重模型,使用你的 Groq 账号。

提供OpenAI, Qwen, Canopy Labs
模态文本, 音频
你粘贴的内容API 密钥
模型 ID你账号上的任意模型,格式为 groq/<model id>

Together AI

你 Together 账号上的开放权重模型。

提供Meta, Mistral, DeepSeek, Qwen, Alibaba, Moonshot, Z.ai, MiniMax, OpenAI, Google, thinkingmachines, Black Forest Labs, Ideogram, Kokoro (hexgrad), Canopy Labs, Cartesia, NVIDIA
模态文本, 图像, 音频
你粘贴的内容API 密钥
模型 ID你账号上的任意模型,格式为 together/<model id>

Fireworks AI

你 Fireworks 账号上的开放权重模型。

提供Meta, Mistral, DeepSeek, Qwen, Alibaba, Moonshot, Z.ai, MiniMax, OpenAI, thinkingmachines, fireworks, NVIDIA
模态文本
你粘贴的内容API 密钥
模型 ID你账号上的任意模型,格式为 fireworks/<model id>

DeepSeek

你 DeepSeek 账号上的 DeepSeek 模型。

提供DeepSeek
模态文本
你粘贴的内容API 密钥

OpenRouter

OpenRouter 上列出的任意模型,在你的 OpenRouter 账号上运行。

提供提供商提供的任意模型
模态文本, 图像, 音频, 视频
你粘贴的内容API 密钥

Runway

你 Runway API 账号上的 Runway Gen-4.5 以及 Runway 提供的视频模型。

提供Runway, Google, ByteDance, MiniMax, Alibaba, xAI, Magnific, ElevenLabs
模态视频, 图像, 音频
你粘贴的内容API 密钥

KIE

你 KIE 账号上的 Claude、GPT、Grok、Gemini 和 Kimi 对话模型,以及 Nano Banana、GPT Image、Seedream 和 Seedance 媒体模型。

提供Anthropic, OpenAI, xAI, Google, Moonshot, DeepSeek, ByteDance
模态文本, 图像, 视频
你粘贴的内容API 密钥

LaoZhang API

你 LaoZhang 账号上的 GPT、Gemini、Grok、DeepSeek、Kimi、GLM 和 MiniMax 对话模型,以及图像模型、Seedance 和 Wan 视频模型。

提供OpenAI, Google, xAI, DeepSeek, Moonshot, Z.ai, MiniMax, Qwen, Black Forest Labs, ByteDance, Alibaba
模态文本, 图像, 视频, 音频
你粘贴的内容API 密钥
模型 ID你账号上的任意模型,格式为 laozhang/<model id>

TypeSafe

你 TypeSafe 账号上的 Jev 结构化决策(选择、评分、是/否)。

提供TypeSafe
模态文本
你粘贴的内容API 密钥
模型 ID你账号上的任意模型,格式为 typesafe/<model id>

Cloudflare Workers AI

你 Cloudflare 账号上的 Clef 决策(是或否、选择、评分)。

提供Cloudflare
模态文本
你粘贴的内容API 密钥

Inception

你 Inception 账号上的 Mercury Decide 决策(是或否、选择、评分)。

提供Inception
模态文本
你粘贴的内容API 密钥

Liquid AI

你 Liquid AI 账号上的 d1 决策(是或否、选择、评分)。

提供Liquid AI
模态文本
你粘贴的内容API 密钥

Upstage

你 Upstage 账号上的 Solar Decide 决策(是或否、选择、评分)。

提供Upstage
模态文本
你粘贴的内容API 密钥

Moonshot AI (Kimi)

你 Moonshot AI 账号上的 Kimi 模型。

提供Moonshot
模态文本
你粘贴的内容API 密钥

Z.ai (GLM)

你 Z.ai 账号上的 GLM 模型。

提供Z.ai
模态文本
你粘贴的内容API 密钥

MiniMax

你 MiniMax 账号上的 MiniMax M 系列模型。

提供MiniMax
模态文本, 音频, 视频
你粘贴的内容API 密钥
模型 ID你账号上的任意模型,格式为 minimax/<model id>

Alibaba Cloud Model Studio

你 Alibaba Cloud Model Studio 账号上的 Qwen 模型。

提供Qwen, Alibaba
模态文本, 视频
你粘贴的内容API 密钥
模型 ID你账号上的任意模型,格式为 alibaba/<model id>

Cerebras

在 Cerebras 硬件上运行的开放权重模型,使用你的 Cerebras 账号。

提供OpenAI, Qwen
模态文本
你粘贴的内容API 密钥
模型 ID你账号上的任意模型,格式为 cerebras/<model id>

Perplexity

你 Perplexity 账号上以搜索结果为依据的 Sonar 模型。

提供Perplexity
模态文本
你粘贴的内容API 密钥

ElevenLabs

你 ElevenLabs 账号上的 ElevenLabs 语音和 Scribe 转写。

提供ElevenLabs
模态音频
你粘贴的内容API 密钥

fal.ai

你 fal.ai 账号上来自众多厂商的图像和视频模型。

提供Google, Kuaishou (Kling), ByteDance, Alibaba, PixVerse, Black Forest Labs, Ideogram, Recraft, Qwen, luma, xAI, OpenAI, Topaz Labs, Sync, ElevenLabs, MMAudio, MiniMax, Stability AI, bria, iclight, clarity, fal
模态图像, 视频, 音频
你粘贴的内容API 密钥

Replicate

你 Replicate 账号上的官方图像和视频模型。

提供Google, Kuaishou (Kling), ByteDance, Alibaba, PixVerse, Black Forest Labs, Ideogram, Recraft, luma, xAI, OpenAI, Runway, Qwen, Topaz Labs, Real-ESRGAN, Sync, ElevenLabs, MiniMax, Stability AI, bria
模态图像, 视频, 音频
你粘贴的内容API 密钥

Sync

你 Sync 账号上的口型同步模型。

提供Sync
模态视频
你粘贴的内容API 密钥

OpenAI 兼容端点

兼容 OpenAI API 的自托管或内部服务器:vLLM、Ollama、LiteLLM、TGI,或你自己的服务器。

提供提供商提供的任意模型
模态文本, 图像, 音频, Embeddings
你粘贴的内容基础 URL,密钥可选
模型 ID你账号上的任意模型,格式为 openai-compatible/<model id>

凭据会怎样处理

把提供商密钥交给第三方,是 BYOK 中最值得审视的部分,所以这里把全部情况都写清楚。

存储前先密封

使用不存放在数据库中的密钥进行 AES-256-GCM 加密,并绑定你的组织和该连接——因此复制到另一行或另一个租户的密封值会无法解开,而不会以你的身份通过认证。

只写,不可查看

凭据保存后,没有任何途径会再返回它。控制台显示最后四个字符,方便你区分两个密钥,并提供替换和吊销。没有任何按钮能把它显示出来,对任何人都没有,包括我们。

你的应用从不携带它

它们使用有作用范围的网关密钥向 INFRO 认证,你可以对其限速、限定到某个项目或环境,并单独吊销。提供商凭据不再被复制到每个服务和每台笔记本电脑中。

仅用于你的请求,别无他用

INFRO 使用此密钥代表你向该提供商发送请求,并读取其报告的用量。它从不读取你的提供商账号、账单或任何其他内容。

离开和接入一样简单:吊销连接,把应用中的基础 URL 改回提供商的地址,你的账号原样继续运行——它们一直都是你的。 Trust Center · 子处理方

未列出的提供商

如果它兼容 OpenAI API——自托管的 vLLM、Ollama、LiteLLM,或部署在你自己网关后面的内部模型——现在就可以把它作为 OpenAI 兼容端点连接:填写它的 HTTPS 基础 URL、需要时提供密钥,以及你想路由的模型。之后你的应用就像使用其他连接一样,通过 INFRO 在你自己的账号上调用它们。如果提供商有自己的 API 格式,请告诉 support@infro.io 你使用的是哪一家。

Provider Program

在运营 AI API?让 INFRO 来集成。

大约五分钟即可申请。工程师审核你的 API,然后我们构建并验证集成。团队连接他们自己在你这里的账号,并继续直接向你付费。

  • Connect 页面和 Connect to INFRO 按钮用于你的文档。读者进入设置时,你的 API 已被选中。
  • INFRO Verified 标识以我们的测试套件针对你的线上 API 最近一次通过的日期为准。绝不出售。
  • 一个用于你申请的私有页面进展情况、我们接下来需要什么,以及安全发送测试访问权限的方式。
  • 触达 INFRO 客户的渠道弃用、事件和新模型,转达给使用你 API 的团队。
docs.example.com/integrations/infro

文档 / 集成

通过 INFRO 使用你的账号

通过 INFRO,使用你在我们这里账号上的密钥,对发往我们 API 的请求进行路由、预算控制和追踪。

Connect to INFRO
docs.example.com 上一个带有 Connect to INFRO 按钮的示例文档页面。按钮链接到该提供商在 infro.io 上的 Connect 页面,设置会在已选中该提供商 API 的状态下打开。
  1. 第 1 步: 申请大约五分钟,使用公司邮箱。
  2. 第 2 步: 审核每份申请都由工程师亲自阅读。
  3. 第 3 步: 测试访问测试密钥,通过你的私有页面发送。
  4. 第 4 步: 集成与验证适配器、模型映射、测试、一次线上运行。
  5. 第 5 步: 已上线你的页面上线;你拿到按钮。
  • 加入无需费用
  • 没有收入分成
  • 没有推荐费
  • 没有付费排名
  • 从不改变路由