INFROを通じてCohereアカウントを使う
Cohereとの契約とキーはそのまま。INFROは、すべてのリクエストにルーティング、予算、フェイルオーバー、監査証跡を加えます。
3つのステップだけで、Cohereアカウントはそのままです。
- 01INFROのワークスペースを作成
14日間のトライアル。チェックアウト時にカードが必要です。14日目より前にキャンセルすれば請求されません。Developerプランは月額$35からです。
- 02Cohereのキーを接続
セットアップはCohereから始まります。Cohereアカウントで作成したキーを貼り付けてください。キーは保存時に封印され、二度と表示されません。
Cohereのキーを作成 - 03アプリの接続先をINFROに変更
INFROのゲートウェイキーとベースURLに差し替え、モデル名をINFROの形式で指定します：cohere/command-r。
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.INFRO_API_KEY,
baseURL: "https://api.infro.io/v1",
});
const response = await client.chat.completions.create({
model: "cohere/command-r",
messages: [{ role: "user", content: "Hello" }],
});お使いの Cohere アカウントで呼び出せるモデル。
カタログのうち 4 個のモデルを Cohere が提供しています。各ページに、送信するモデル ID、メーカーの定価、そのモデルを提供する他のプロバイダーを記載しています。
テキスト
- Command Rcohere/command-r
- Command R7Bcohere/command-r7b
- Command R+cohere/command-r-plus
- Aya Expanse 32Bcohere/aya-expanse-32b
INFROがCohereへのリクエストに加えるもの。
- ルーティングとフェイルオーバーお客様自身の接続に対する名前付きルート。レスポンスが始まる前の再試行とフェイルオーバー付き。
- 支出を止める予算組織、プロジェクト、メンバー、キーごとの制限。プロバイダーを呼び出す前にチェックされます。
- すべてのリクエストにコストリクエストごとの推定プロバイダー費用。定価または交渉済みの料金で、プロジェクト、キー、エンドユーザー別に。
- 監査証跡すべてのリクエストと、キー、メンバー、ポリシーへのすべての変更の記録。実行者付き。
- アプリケーションに持たせられるキーモデル許可リスト、IPレンジ、ローテーション付きのスコープ付きゲートウェイキー。プロバイダーキーはINFRO内に封印されたままです。
Cohereの請求はCohereから。INFROはコントロールプレーンに対して請求します。
モデル利用料への上乗せは0%です。 Cohereへのお支払いは、お客様自身の契約と料金で直接行います。INFROのサブスクリプションは別です。 プランを見る
Cohereとそのロゴは、お客様が接続するアカウントを示すものです。INFROは独立したサービスであり、利用してもCohereとの契約は変わりません。