コンテンツへスキップ

ユースケースガバナンス

どのモデル、データ、人がプロバイダーに到達できるかを決める、1つのポリシー。

Wikiに書かれたポリシーは助言にすぎません。ゲートウェイにあるポリシーは、すべてのリクエストで強制されます。プロジェクトが呼び出せるモデル、プロンプトに含めてよいもの、キーが到達できる環境、そしてそれらを誰が変更したか。

決済プロジェクト · 本番キー例
モデルプロジェクトの許可リストにない → 403 model_not_allowed
プロンプトカード番号を検出 → 呼び出しの前にマスク
キー本番のみ · ステージングの接続に到達できない
監査管理者が許可リストを変更、UTC 09:42

ポリシーの例です。パターン検出は見逃すことがあります。リスクを減らしますが、なくすものではありません。

課題

コントロールプレーンがない場合

  • 各チームが、それぞれ独自にモデルとプロバイダーを選んでいる。
  • 個人情報やシークレットが、気づかれないままプロンプトに入ってプロバイダーに届く。
  • 誰がキーにアクセスを与えたのか、いつ与えたのか、誰にも言えない。

INFROがある場合

  • 組織、プロジェクト、キー単位の許可リスト。ポリシーエラーで拒否されます。
  • ガードレールが、プロンプトとレスポンス内の機密パターンをブロック、マスク、またはフラグ付けします。
  • すべてのメンバー、キー、ポリシーの変更が、監査ログに残ります。

仕組み

  1. 分離された環境

    本番、ステージング、開発、さらにお客様独自のもの。キーは1つに属し、その外の接続には到達しません。

  2. モデルとデータを承認

    許可リストは、各スコープが呼び出せるモデルを決め、ガードレールは、お客様が選んだパターンについてプロンプトとレスポンスをチェックします。

  3. 誰が変更できるかを管理

    ロール、メンバーごとのプロジェクトアクセス、IDプロバイダーによるSSOとSCIM、すべての変更の監査ログ。

得られるもの

いずれもドキュメント化されており、どのプランに含まれるかを明記しています。プランの記載がないものは、すべてのプランに含まれます。

  • モデルの許可リスト

    組織、プロジェクト、キー単位でモデルを許可またはブロック。ブロックのみのリストは、将来のモデルもカバーします。

    ドキュメント
  • ガードレールBusinessから

    プロンプトとレスポンスの、メールアドレス、カード番号、IBAN、APIキー、お客様独自の用語を、ブロック、マスク、またはフラグ付け。

    ドキュメント
  • 環境

    接続やルートは、1つ、複数、またはすべての環境にサービスを提供します。各キーは、ちょうど1つの環境に属します。

    ドキュメント
  • プロジェクトアクセス

    開発者やアナリストを一部のプロジェクトに限定します。ゲートウェイは、組織全体にわたるものをすべて拒否します。

    ドキュメント
  • SSOとSCIMBusinessから

    IDプロバイダーに対するSAMLまたはOIDCのサインインと、メンバーを作成・無効化するSCIMプロビジョニング。

    ドキュメント
  • 監査ログ

    メンバー、キー、ポリシーの変更を、実行者とタイムスタンプ付きで、コンソールに。

    ドキュメント

対象

  • セキュリティチームリクエストの経路で強制される制御と、誰が変更したかの記録。
  • コンプライアンス組織がどのモデルとプロバイダーを、どんなルールで使っているかに答える、1つの場所。
  • プラットフォームオーナーチームは、モデルごとにレビューを待つのではなく、ポリシーの範囲内で素早く動けます。

よくある質問

ガードレールはすべてを検出しますか?

いいえ。パターンチェックであり、お客様自身の意思決定モデル接続での分類器チェックを任意で追加できます。検出は見逃すことがあり、どのパターンをチェックするかはドキュメントに記載しています。

INFROは、プロンプトを保存しますか?

プロンプトと補完のログ記録は、既定でオフです。オンにする場合、保持期間はお客様が選びます。

SSOとガードレールは、どのプランに含まれますか?

ガードレールはBusinessプラン以降、SCIM付きのSSOはBusinessプラン以降に含まれます。許可リスト、環境、監査ログは、すべてのプランにあります。

契約の全文はモデル許可リストのドキュメントにあり、その他の質問はFAQにあります。

始める

自社のプロバイダーアカウントで試す。

プロバイダーを接続し、ゲートウェイキーを作成し、ベースURLを1つ変えるだけ。プロバイダーからの直接請求はそのままで、モデル支出への上乗せは0%です。