AnwendungsfälleAusgabenkontrolle
Ein Ausgabenlimit, das die Anfrage ablehnt, nicht eines, das sie meldet.
Legen Sie ein Limit pro Organisation, Projekt, Mitglied oder Gateway-Schlüssel fest. Eine Anfrage, die das Limit nicht abdecken kann, wird mit einem 402 abgelehnt, bevor Ihr Anbieter sie sieht, sodass eine Schleife, ein geleakter Schlüssel oder ein ausgelasteter Agent bei der von Ihnen gewählten Zahl stoppt.
Beispiel-Schlüssel. Das Limit zählt die Schätzung der Anbieterkosten durch INFRO, nicht die Rechnung des Anbieters.
Das Problem
Ohne Control Plane
- Ein Anbieter-Dashboard sagt Ihnen, was ausgegeben wurde, nachdem es ausgegeben wurde.
- Ein einziges außer Kontrolle geratenes Skript oder ein geleakter Schlüssel kann ein Monatsbudget an einem Nachmittag verbrauchen.
- Alle Teams teilen sich einen Anbieterschlüssel, sodass niemand eine Zahl verantwortet.
Mit INFRO
- Limits werden bei jeder Anfrage vor dem Anbieteraufruf geprüft.
- Jedes Projekt, Mitglied und jeder Schlüssel hat ein eigenes Limit und eigene Warnschwellen.
- Eine Ablehnung nennt den Umfang, der sie ausgelöst hat, damit die richtige Person handelt.
So funktioniert es
Geben Sie jedem Workload einen eigenen Schlüssel
Ein Schlüssel pro Dienst, Agent oder Entwickler, jeweils in einem Projekt. Die Ausgaben werden ab der ersten Anfrage pro Schlüssel erfasst.
Die Limits setzen
Limits auf Organisations-, Projekt-, Mitglieds- und Schlüsselebene, jeweils blockierend oder nur warnend, mit Warnungen bei Ihren eigenen Schwellen.
Das Gateway sie durchsetzen lassen
Die geschätzten Kosten jeder Anfrage werden vor dem Aufruf reserviert. Eine Anfrage, die das Limit nicht abdecken kann, liefert 402 budget_exceeded und erreicht den Anbieter nie.
Was Sie bekommen
Jede ist dokumentiert, und bei jeder steht, welcher Tarif sie enthält. Wo kein Tarif genannt ist, ist sie in jedem Tarif enthalten.
Limits auf jeder Ebene
Ein festes Limit pro Organisation, Projekt, Mitglied und Schlüssel, mit Warnungen bei Ihren eigenen Schwellen.
DokuVor dem Aufruf abgelehnt
Eine Anfrage, die ein Limit nicht abdecken kann, wird mit 402 abgelehnt, bevor der Anbieter sie sieht; der Fehler nennt den Umfang.
DokuAusgabenwarnungen und Prognosen
Ein Tag, der von seinem üblichen Muster abweicht, oder ein Budget, das voraussichtlich überschritten wird, wird zu einem Befund per E-Mail, Slack oder Webhook.
DokuSchlüssellimits
Beschränken Sie einen Schlüssel auf gewählte Anbieter oder IP-Bereiche, schalten Sie ihn aus oder rotieren Sie ihn mit einem Überlappungsfenster.
DokuLimits pro EndkundeAb Team
Ein Ausgabenlimit für jeden Endkunden Ihres Produkts, mit Ausnahmen, die Ihr Backend setzt.
DokuTraffic ohne Preisangabe abgelehnt
Ein Modell ohne bekannten Preis wird unter einem Limit abgelehnt, es sei denn, Sie erlauben Traffic ohne Preisangabe, sodass ein Limit nie eine Schätzung als $0 zählt.
Doku
Für wen es ist
- Engineering LeadsGeben Sie jedem Entwickler und Agent einen Schlüssel mit Limit und hören Sie auf, Ausgaben auf Vertrauen zu genehmigen.
- FinanzenEine Zahl pro Team, die durchgesetzt wird, nicht eine Zahl pro Team, auf die man hofft.
- GründerEine außer Kontrolle geratene Schleife kostet höchstens das Limit, das Sie für diesen Schlüssel gesetzt haben.
FAQ
Ist das Limit auf den Cent genau wie die Rechnung meines Anbieters?
Das Limit zählt die Schätzung der Anbieterkosten durch INFRO aus den Preisen, die es kennt, oder Ihre ausgehandelten Preise, wo Sie sie eingetragen haben. Die Rechnung des Anbieters ist die endgültige Zahl; der Abgleich vergleicht beide, wo der Anbieter Kostendaten veröffentlicht.
Hält ein Limit bei gleichzeitigen Anfragen?
Jede Anfrage reserviert vor dem Aufruf ihre Schätzung, sodass nicht ein Schwall auf einmal eine Prüfung passieren kann. Die Methode und die Ergebnisse eines Sandbox-Tests mit 500 gleichzeitigen Anfragen sind in dem unten verlinkten Praxisleitfaden veröffentlicht.
Kann ein Limit warnen statt blockieren?
Ja. Jedes Limit ist blockierend oder nur warnend, und die Warnschwellen legen Sie selbst fest.
Der vollständige Vertrag steht in der Dokumentation zu Ausgabenkontrollen, und alle anderen Fragen stehen in den FAQ.
Praxisleitfäden
- PraxisleitfadenDoes an AI spend cap hold under 500 concurrent requests?A spend cap that checks a running total and then serves the request will be passed by a burst. Here is why, how a reservation-based cap is built instead, and what a sandbox test of one did and did not show.
- PraxisleitfadenLLM spend controls: budgets, alerts, and hard limitsBudgets should guide normal growth and contain abnormal behavior. Use scoped alerts for humans and hard ceilings for the failure modes that cannot wait.
- PraxisleitfadenCoding agent costs for teams: Claude Code, Codex and capsTwo ways to pay for coding agents, the mechanics that make an agent session expensive, and a working plan for measuring spend per developer, repository and project, then capping it before the provider call.
Loslegen
Probieren Sie es auf Ihren eigenen Anbieterkonten aus.
Verbinden Sie einen Anbieter, erstellen Sie einen Gateway-Schlüssel und ändern Sie eine Basis-URL. Ihre Anbieter rechnen weiter direkt mit Ihnen ab; 0 % Aufschlag auf Modellausgaben.