INFROを通じてCloudflare Workers AIアカウントを使う
Cloudflare Workers AIとの契約とキーはそのまま。INFROは、すべてのリクエストにルーティング、予算、フェイルオーバー、監査証跡を加えます。
3つのステップだけで、Cloudflare Workers AIアカウントはそのままです。
- 01INFROのワークスペースを作成
14日間のトライアル。チェックアウト時にカードが必要です。14日目より前にキャンセルすれば請求されません。Developerプランは月額$35からです。
- 02Cloudflare Workers AIのキーを接続
セットアップはCloudflare Workers AIから始まります。Cloudflare Workers AIアカウントで作成したキーを貼り付けてください。キーは保存時に封印され、二度と表示されません。
Cloudflare Workers AIのキーを作成 - 03アプリの接続先をINFROに変更
INFROのゲートウェイキーとベースURLに差し替え、モデル名をINFROの形式で指定します:clef。
curl https://api.infro.io/v1/systemone \
-H "Authorization: Bearer $INFRO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "clef",
"state": "I was charged twice. Please refund one of them.",
"questions": {
"refund_request": { "type": "noul", "instructions": "Is the customer asking for a refund?" }
}
}'お使いの Cloudflare Workers AI アカウントで呼び出せるモデル。
カタログのうち 3 個のモデルを Cloudflare Workers AI が提供しています。各ページに、送信するモデル ID、メーカーの定価、そのモデルを提供する他のプロバイダーを記載しています。
テキスト
- Clefcloudflare/clef
- Clef Flashcloudflare/clef-flash
- Clef Omnicloudflare/clef-omni
INFROがCloudflare Workers AIへのリクエストに加えるもの。
- ルーティングとフェイルオーバーお客様自身の接続に対する名前付きルート。レスポンスが始まる前の再試行とフェイルオーバー付き。
- 支出を止める予算組織、プロジェクト、メンバー、キーごとの制限。プロバイダーを呼び出す前にチェックされます。
- すべてのリクエストにコストリクエストごとの推定プロバイダー費用。定価または交渉済みの料金で、プロジェクト、キー、エンドユーザー別に。
- 監査証跡すべてのリクエストと、キー、メンバー、ポリシーへのすべての変更の記録。実行者付き。
- アプリケーションに持たせられるキーモデル許可リスト、IPレンジ、ローテーション付きのスコープ付きゲートウェイキー。プロバイダーキーはINFRO内に封印されたままです。
Cloudflare Workers AIの請求はCloudflare Workers AIから。INFROはコントロールプレーンに対して請求します。
モデル利用料への上乗せは0%です。 Cloudflare Workers AIへのお支払いは、お客様自身の契約と料金で直接行います。INFROのサブスクリプションは別です。 プランを見る
自社のCloudflare Workers AIキー接続できるすべてのプロバイダー
Cloudflare Workers AIとそのロゴは、お客様が接続するアカウントを示すものです。INFROは独立したサービスであり、利用してもCloudflare Workers AIとの契約は変わりません。
Cloudflare Workers AIの方ですか?ドキュメントに「Connect to INFRO」ボタンを追加してください