Use sua conta da Cohere pelo INFRO
Mantenha seu contrato com a Cohere e sua chave. O INFRO adiciona roteamento, orçamentos, failover e uma trilha de auditoria em torno de cada requisição.
Três passos, e sua conta da Cohere continua como está.
- 01Crie seu workspace no INFRO
Um teste de 14 dias, com cartão exigido no checkout; cancele antes do dia 14 e você não será cobrado. O plano Developer começa em $35 por mês.
- 02Conecte sua chave da Cohere
A configuração abre em Cohere. Cole uma chave criada na sua conta da Cohere: ela é selada ao ser salva e nunca mais é exibida.
Crie sua chave da Cohere - 03Aponte seu app para o INFRO
Troque pela sua chave do gateway do INFRO e pela URL base, e nomeie o modelo como o INFRO nomeia: cohere/command-r.
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.INFRO_API_KEY,
baseURL: "https://api.infro.io/v1",
});
const response = await client.chat.completions.create({
model: "cohere/command-r",
messages: [{ role: "user", content: "Hello" }],
});Modelos que você pode chamar com sua conta Cohere.
4 modelos do catálogo são servidos por Cohere. Cada página traz o id do modelo a enviar, o preço de tabela do fabricante e os outros provedores que o servem.
Texto
- Command Rcohere/command-r
- Command R7Bcohere/command-r7b
- Command R+cohere/command-r-plus
- Aya Expanse 32Bcohere/aya-expanse-32b
O que o INFRO adiciona em torno das suas requisições à Cohere.
- Roteamento e failoverRotas nomeadas sobre as suas próprias conexões, com novas tentativas e failover antes de a resposta começar.
- Orçamentos que interrompem o gastoLimites por organização, projeto, membro e chave, verificados antes de o provedor ser chamado.
- Custo em cada requisiçãoCusto estimado do provedor por requisição, na tarifa de tabela ou na tarifa que você negociou, por projeto, chave ou usuário final.
- Uma trilha de auditoriaUm registro de cada requisição e de cada mudança em chaves, membros e políticas, com o respectivo autor.
- Chaves que suas aplicações podem carregarChaves de gateway com escopo, com listas de permissões de modelos, faixas de IP e rotação, para que a chave do provedor permaneça selada no INFRO.
Sua conta da Cohere continua com a Cohere. O INFRO cobra você pelo plano de controle.
0% de margem sobre o gasto com modelos. Você paga a Cohere diretamente, sob o seu próprio contrato e pelas suas próprias tarifas; a assinatura do INFRO é separada. Ver os planos
Suas chaves da CohereTodos os provedores que você pode conectar
Cohere e sua marca identificam a conta que você conecta. O INFRO é um serviço independente; usá-lo não altera o seu contrato com a Cohere.
Você é a Cohere? Adicione o botão Connect to INFRO à sua documentação