Naar de inhoud

Use casesGovernance

Eén policy voor welke modellen, data en mensen je providers bereiken.

Policy die in een wiki staat is advies. Policy in de gateway wordt bij elk verzoek afgedwongen: de modellen die een project mag aanroepen, wat in een prompt mag staan, welke omgeving een sleutel kan bereiken en wie iets daarvan wijzigde.

Project payments · productiesleutelVoorbeeld
Modelniet op de projectallowlist → 403 model_not_allowed
Promptkaartnummer gevonden → geredigeerd vóór de aanroep
Sleutelalleen productie · stagingverbinding onbereikbaar
Auditallowlist gewijzigd door een beheerder, 09:42 UTC

Voorbeeldpolicy. Patroondetectie kan dingen missen; ze verkleint het risico, ze neemt het niet weg.

Het probleem

Zonder control plane

  • Elk team kiest zelf modellen en providers.
  • Persoonsgegevens en geheimen bereiken ongezien een provider in een prompt.
  • Niemand kan zeggen wie een sleutel toegang gaf, of wanneer.

Met INFRO

  • Allowlists per organisatie, project en sleutel, geweigerd met een policyfout.
  • Guardrails blokkeren, redigeren of markeren gevoelige patronen in prompts en antwoorden.
  • Elke wijziging aan leden, sleutels en policy in het auditlog.

Hoe het werkt

  1. Gescheiden omgevingen

    Productie, staging en development, plus je eigen. Een sleutel hoort bij één en bereikt nooit een verbinding daarbuiten.

  2. Keur modellen en data goed

    Allowlists zeggen welke modellen elke scope mag aanroepen; guardrails controleren prompts en antwoorden op de patronen die je kiest.

  3. Bepaal wie het kan wijzigen

    Rollen, projecttoegang voor leden, SSO en SCIM vanuit je identity provider, en een auditlog van elke wijziging.

Wat je krijgt

Elk ervan is gedocumenteerd, en bij elk staat welk plan het bevat. Waar geen plan wordt genoemd, zit het in elk plan.

  • Model-allowlists

    Modellen toestaan of blokkeren per organisatie, project en sleutel; een lijst met alleen blokkades dekt ook toekomstige modellen.

    Docs
  • GuardrailsVanaf Business

    Blokkeer, redigeer of markeer e-mailadressen, kaartnummers, IBAN's, API-sleutels en je eigen termen in prompts en antwoorden.

    Docs
  • Omgevingen

    Een verbinding of route bedient één, meerdere of elke omgeving; elke sleutel hoort bij precies één.

    Docs
  • Projecttoegang

    Beperk een ontwikkelaar of analist tot enkele projecten; de gateway weigert al het andere organisatiebreed.

    Docs
  • SSO en SCIMVanaf Business

    SAML- of OIDC-aanmelding bij je identity provider, en SCIM-provisioning die leden aanmaakt en deactiveert.

    Docs
  • Auditlog

    Wijzigingen aan leden, sleutels en policy met actor en tijdstempel, in de console.

    Docs

Voor wie het is

  • BeveiligingsteamsControles afgedwongen op het verzoekpad, met een registratie van wie ze wijzigde.
  • ComplianceEén plek die beantwoordt welke modellen en providers je organisatie gebruikt, en onder welke regels.
  • PlatformeigenarenTeams bewegen snel binnen een policy in plaats van op een review per model te wachten.

FAQ

Vangen guardrails alles?

Nee. Het zijn patroonchecks, met optionele classifiercontroles op je eigen verbinding met een beslismodel. Detectie kan dingen missen, en de documentatie zegt welke patronen worden gecontroleerd.

Slaat INFRO onze prompts op?

Het loggen van prompts en completions staat standaard uit. Als je het inschakelt, kies je het bewaarvenster.

Welk plan bevat SSO en guardrails?

Guardrails zijn inbegrepen vanaf het Business-plan, en SSO met SCIM vanaf het Business-plan. Allowlists, omgevingen en het auditlog zitten in elk plan.

Het volledige contract staat in de Documentatie modelallowlists, en elke andere vraag staat in de FAQ.

Aan de slag

Probeer het op je eigen provideraccounts.

Koppel een provider, maak een gatewaysleutel en verander één basis-URL. Je providers blijven je rechtstreeks factureren; 0% opslag op modeluitgaven.