본문으로 건너뛰기

사용 사례거버넌스

어떤 모델, 데이터, 사람이 공급자에 닿는지에 대한 하나의 정책.

위키에 적은 정책은 조언입니다. 게이트웨이의 정책은 모든 요청에 적용됩니다. 프로젝트가 호출할 수 있는 모델, 프롬프트에 나타날 수 있는 것, 키가 닿을 수 있는 환경, 그리고 그 어느 것이든 누가 바꿨는지입니다.

결제 프로젝트 · 프로덕션 키예시
모델프로젝트 허용 목록에 없음 → 403 model_not_allowed
프롬프트카드 번호 발견 → 호출 전에 마스킹
키프로덕션 전용 · 스테이징 연결에 닿을 수 없음
감사관리자가 허용 목록 변경, 09:42 UTC

정책 예시입니다. 패턴 탐지는 놓칠 수 있으며 위험을 줄일 뿐 없애지는 않습니다.

문제

컨트롤 플레인 없이

  • 각 팀이 모델과 공급자를 각자 고릅니다.
  • 개인 정보와 비밀 값이 프롬프트에 담겨 보이지 않게 공급자에게 도달합니다.
  • 누가 키에 접근 권한을 부여했는지, 언제였는지 아무도 말할 수 없습니다.

INFRO 사용 시

  • 조직, 프로젝트, 키별 허용 목록이며, 정책 오류로 거부됩니다.
  • 가드레일은 프롬프트와 응답의 민감한 패턴을 차단, 마스킹 또는 표시합니다.
  • 모든 멤버, 키, 정책 변경이 감사 로그에 남습니다.

작동 방식

  1. 분리된 환경

    프로덕션, 스테이징, 개발, 그리고 직접 만든 환경. 키는 하나에 속하며 그 밖의 연결에는 닿지 않습니다.

  2. 모델과 데이터 승인

    허용 목록은 각 범위가 호출할 수 있는 모델을 정하고, 가드레일은 선택한 패턴에 대해 프롬프트와 응답을 검사합니다.

  3. 누가 바꿀 수 있는지 통제

    역할, 멤버별 프로젝트 접근, ID 공급자의 SSO와 SCIM, 모든 변경의 감사 로그.

제공되는 것

모두 문서화되어 있으며, 각각 어느 요금제에 포함되는지 명시합니다. 요금제가 명시되지 않은 항목은 모든 요금제에 포함됩니다.

  • 모델 허용 목록

    조직, 프로젝트, 키별로 모델을 허용하거나 차단합니다. 차단 전용 목록은 앞으로 나올 모델도 포함합니다.

    문서
  • 가드레일Business부터

    프롬프트와 응답에서 이메일 주소, 카드 번호, IBAN, API 키, 직접 정한 용어를 차단, 마스킹, 표시합니다.

    문서
  • 환경

    연결이나 라우트는 환경 하나, 여러 개 또는 전체에 쓰이며, 각 키는 정확히 하나에 속합니다.

    문서
  • 프로젝트 접근

    개발자나 분석가를 일부 프로젝트로 제한하세요. 조직 전체에 걸친 요청은 게이트웨이가 모두 거부합니다.

    문서
  • SSO 및 SCIMBusiness부터

    ID 공급자를 통한 SAML 또는 OIDC 로그인, 그리고 멤버를 만들고 비활성화하는 SCIM 프로비저닝.

    문서
  • 감사 로그

    콘솔에서 행위자와 타임스탬프가 함께 보이는 멤버, 키, 정책 변경.

    문서

대상

  • 보안 팀요청 경로에서 적용되는 통제와, 누가 바꿨는지에 대한 기록.
  • 규정 준수조직이 어떤 모델과 공급자를 어떤 규칙으로 쓰는지 답해 주는 한곳.
  • 플랫폼 소유자팀이 모델마다 검토를 기다리는 대신 정책 안에서 빠르게 움직입니다.

FAQ

가드레일이 모든 것을 잡아내나요?

아니요. 패턴 검사이며, 자체 의사결정 모델 연결에서 실행하는 선택형 분류기 검사가 있습니다. 탐지는 놓칠 수 있으며, 문서에 어떤 패턴을 검사하는지 나와 있습니다.

INFRO는 프롬프트를 저장하나요?

프롬프트와 완성 로깅은 기본으로 꺼져 있습니다. 켜면 보존 기간을 직접 정합니다.

어떤 요금제에 SSO와 가드레일이 포함되나요?

가드레일은 Business 요금제부터, SCIM이 포함된 SSO는 Business 요금제부터 포함됩니다. 허용 목록, 환경, 감사 로그는 모든 요금제에 있습니다.

전체 계약은 모델 허용 목록 문서에 있으며, 그 밖의 모든 질문은 FAQ에 있습니다.

시작하기

자체 공급자 계정으로 사용해 보세요.

공급자를 연결하고, 게이트웨이 키를 만들고, 베이스 URL 하나를 바꾸세요. 공급자는 계속 직접 청구하며, 모델 지출 가산은 0%입니다.