三个步骤,你的 Groq 账号保持原样。
- 01创建你的 INFRO 工作区
14 天试用,结账时需要绑定银行卡;在第 14 天之前取消则不会扣款。Developer 套餐起价为每月 $35。
- 02连接你的 Groq 密钥
设置会直接打开 Groq。粘贴你在 Groq 账号中创建的密钥:保存时即被加密封存,之后不会再显示。
创建你的 Groq 密钥 - 03将你的应用指向 INFRO
换上你的 INFRO 网关密钥和基础 URL,并按 INFRO 的方式命名模型:openai/gpt-oss-120b。
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.INFRO_API_KEY,
baseURL: "https://api.infro.io/v1",
});
const response = await client.chat.completions.create({
model: "openai/gpt-oss-120b",
messages: [{ role: "user", content: "Hello" }],
});你可以通过自己的 Groq 账号调用的模型。
目录中有 7 个模型由 Groq 提供。每个页面列出要发送的模型 ID、厂商的公开价以及提供该模型的其他提供商。
文本
- gpt-oss-120bopenai/gpt-oss-120b
- Qwen3.8 27Bqwen/qwen3.8-27b
- gpt-oss-20bopenai/gpt-oss-20b
音频
- Whisper v3 Turboopenai/whisper-v3-turbo
- Whisper Large v3openai/whisper-large-v3
- Orpheus V1 Englishcanopylabs/orpheus-v1-english
- Orpheus Arabic (Saudi)canopylabs/orpheus-arabic-saudi
INFRO 在你的 Groq 请求周围增加了什么。
- 路由和故障转移基于你自己连接的命名路由,在响应开始之前重试和故障转移。
- 能阻止支出的预算组织、项目、成员和密钥层级的限额,在调用提供商之前检查。
- 每个请求都有成本按项目、密钥或终端用户,每个请求的预估提供商费用,按公开价或你协商的费率计算。
- 审计轨迹每个请求的记录,以及对密钥、成员和策略的每次变更的记录,并注明操作人。
- 你的应用可以持有的密钥限定范围的网关密钥,带模型允许列表、IP 范围和轮换,因此提供商密钥始终加密存放在 INFRO 中。
你的 Groq 账单仍由 Groq 开具。INFRO 只就控制平面向你收费。
模型支出零加价。 你按照自己的协议、以自己的价格直接向 Groq 付费;INFRO 的订阅是单独的。 查看套餐
Groq 及其标志用于指明你所连接的账号。INFRO 是一项独立服务;使用它不会改变你与 Groq 之间的协议。