Zum Inhalt springen

AnwendungsfälleGovernance

Eine Richtlinie dafür, welche Modelle, Daten und Personen Ihre Anbieter erreichen.

Eine Richtlinie in einem Wiki ist ein Ratschlag. Eine Richtlinie im Gateway wird bei jeder Anfrage durchgesetzt: die Modelle, die ein Projekt aufrufen darf, was in einem Prompt erscheinen darf, welche Umgebung ein Schlüssel erreichen kann und wer etwas davon geändert hat.

Projekt Zahlungen · ProduktionsschlüsselBeispiel
Modellnicht auf der Projekt-Freigabeliste → 403 model_not_allowed
PromptKartennummer gefunden → vor dem Aufruf geschwärzt
Schlüsselnur Produktion · Staging-Verbindung nicht erreichbar
AuditFreigabeliste von einem Admin geändert, 09:42 UTC

Beispiel-Richtlinie. Mustererkennung kann etwas übersehen; sie senkt das Risiko, sie beseitigt es nicht.

Das Problem

Ohne Control Plane

  • Jedes Team wählt Modelle und Anbieter für sich.
  • Personenbezogene Daten und Secrets erreichen einen Anbieter unbemerkt in einem Prompt.
  • Niemand kann sagen, wer einem Schlüssel Zugriff gegeben hat oder wann.

Mit INFRO

  • Freigabelisten pro Organisation, Projekt und Schlüssel, mit einem Richtlinienfehler abgelehnt.
  • Guardrails blockieren, schwärzen oder markieren sensible Muster in Prompts und Antworten.
  • Jede Änderung an Mitgliedern, Schlüsseln und Richtlinien im Audit-Log.

So funktioniert es

  1. Getrennte Umgebungen

    Produktion, Staging und Entwicklung, plus Ihre eigenen. Ein Schlüssel gehört zu einer und erreicht nie eine Verbindung außerhalb davon.

  2. Modelle und Daten freigeben

    Freigabelisten sagen, welche Modelle jeder Umfang aufrufen darf; Guardrails prüfen Prompts und Antworten auf die von Ihnen gewählten Muster.

  3. Steuern, wer es ändern darf

    Rollen, Projektzugriff für Mitglieder, SSO und SCIM von Ihrem Identitätsanbieter und ein Audit-Log jeder Änderung.

Was Sie bekommen

Jede ist dokumentiert, und bei jeder steht, welcher Tarif sie enthält. Wo kein Tarif genannt ist, ist sie in jedem Tarif enthalten.

  • Modell-Freigabelisten

    Modelle pro Organisation, Projekt und Schlüssel erlauben oder blockieren; eine reine Blockliste deckt auch künftige Modelle ab.

    Doku
  • GuardrailsAb Business

    E-Mail-Adressen, Kartennummern, IBANs, API-Schlüssel und Ihre eigenen Begriffe in Prompts und Antworten blockieren, schwärzen oder markieren.

    Doku
  • Umgebungen

    Eine Verbindung oder Route bedient eine, mehrere oder jede Umgebung; jeder Schlüssel gehört zu genau einer.

    Doku
  • Projektzugriff

    Beschränken Sie einen Entwickler oder Analysten auf einige Projekte; das Gateway lehnt alles organisationsweit ab.

    Doku
  • SSO und SCIMAb Business

    SAML- oder OIDC-Anmeldung gegen Ihren Identitätsanbieter und SCIM-Bereitstellung, die Mitglieder anlegt und deaktiviert.

    Doku
  • Audit-Log

    Änderungen an Mitgliedern, Schlüsseln und Richtlinien mit Akteur und Zeitstempel, in der Konsole.

    Doku

Für wen es ist

  • SicherheitsteamsKontrollen, im Anfragepfad durchgesetzt, mit einem Protokoll, wer sie geändert hat.
  • ComplianceEin Ort, der beantwortet, welche Modelle und Anbieter Ihre Organisation nutzt und unter welchen Regeln.
  • Plattform-VerantwortlicheTeams bewegen sich innerhalb einer Richtlinie schnell, statt für jedes Modell auf eine Prüfung zu warten.

FAQ

Fangen Guardrails alles ab?

Nein. Es sind Musterprüfungen, mit optionalen Klassifikator-Prüfungen auf Ihrer eigenen Entscheidungsmodell-Verbindung. Die Erkennung kann etwas übersehen, und die Dokumentation sagt, welche Muster geprüft werden.

Speichert INFRO unsere Prompts?

Das Protokollieren von Prompts und Completions ist standardmäßig aus. Schalten Sie es ein, wählen Sie das Aufbewahrungsfenster.

Welcher Tarif enthält SSO und Guardrails?

Guardrails sind ab dem Tarif Business enthalten, SSO mit SCIM ab dem Tarif Business. Freigabelisten, Umgebungen und das Audit-Log gibt es in jedem Tarif.

Der vollständige Vertrag steht in der Dokumentation zu Modell-Freigabelisten, und alle anderen Fragen stehen in den FAQ.

Loslegen

Probieren Sie es auf Ihren eigenen Anbieterkonten aus.

Verbinden Sie einen Anbieter, erstellen Sie einen Gateway-Schlüssel und ändern Sie eine Basis-URL. Ihre Anbieter rechnen weiter direkt mit Ihnen ab; 0 % Aufschlag auf Modellausgaben.