Casi d'usoControllo della spesa
Un limite di spesa che rifiuta la richiesta, non uno che la segnala.
Imposta un tetto per organizzazione, progetto, membro o chiave del gateway. Una richiesta che il limite non può coprire viene rifiutata con un 402 prima che il tuo provider la veda, così un loop, una chiave esposta o un agente molto attivo si fermano al numero che hai scelto.
Chiave di esempio. Il limite conta la stima di INFRO del costo del provider, non la fattura del provider.
Il problema
Senza un piano di controllo
- La dashboard di un provider ti dice cosa è stato speso, dopo che è stato speso.
- Uno script fuori controllo o una chiave esposta può consumare il budget di un mese in un pomeriggio.
- Ogni team condivide un'unica chiave provider, quindi nessuno possiede un numero.
Con INFRO
- I limiti sono verificati prima della chiamata al provider, a ogni richiesta.
- Ogni progetto, membro e chiave ha il proprio tetto e le proprie soglie di avviso.
- Un rifiuto nomina l'ambito che lo ha prodotto, così agisce la persona giusta.
Come funziona
Dai a ogni carico di lavoro la propria chiave
Una chiave per servizio, agente o sviluppatore, ciascuna dentro un progetto. La spesa è registrata per chiave fin dalla prima richiesta.
Imposta i tetti
Limiti a livello di organizzazione, progetto, membro e chiave, ciascuno bloccante o solo di avviso, con avvisi alle tue soglie.
Lascia che sia il gateway a farli rispettare
Il costo stimato di ogni richiesta viene riservato prima della chiamata. Una richiesta che il limite non può coprire restituisce 402 budget_exceeded e non raggiunge mai il provider.
Cosa ottieni
Ognuno è documentato, e ognuno indica quale piano lo include. Dove non è indicato un piano, è su ogni piano.
Limiti a ogni livello
Un tetto rigido per organizzazione, progetto, membro e chiave, con avvisi alle soglie che imposti tu.
DocumentazioneRifiutato prima della chiamata
Una richiesta che un limite non può coprire viene rifiutata con 402 prima che il provider la veda; l'errore nomina l'ambito.
DocumentazioneAvvisi e previsioni di spesa
Un giorno che si discosta dal suo andamento abituale, o un budget previsto in superamento, diventa un riscontro via email, Slack o webhook.
DocumentazioneLimiti per chiave
Limita una chiave a provider o intervalli IP scelti, spegnila o ruotala con una finestra di sovrapposizione.
DocumentazioneTetti per cliente finaleDa Team
Un tetto di spesa per ogni cliente finale del tuo prodotto, con eccezioni impostate dal tuo backend.
DocumentazioneTraffico senza prezzo rifiutato
Un modello senza tariffa nota viene rifiutato sotto un limite a meno che tu consenta il traffico senza prezzo, così un limite non conta mai un'ipotesi come $0.
Documentazione
Per chi è
- Responsabili di ingegneriaDai a ogni sviluppatore e agente una chiave con un tetto, e smetti di approvare la spesa sulla fiducia.
- FinanzaUn numero per team che viene fatto rispettare, non un numero per team su cui si spera.
- FondatoriUn loop incontrollato costa al massimo il limite che hai impostato su quella chiave.
FAQ
Il limite è esatto al centesimo rispetto alla fattura del mio provider?
Il limite conta la stima di INFRO del costo del provider in base alle tariffe che conosce, o alle tue tariffe negoziate dove le hai inserite. La fattura del provider è la cifra definitiva; la riconciliazione confronta i due dove il provider pubblica dati di costo.
Un limite regge con richieste concorrenti?
Ogni richiesta riserva la propria stima prima della chiamata, così un picco non può superare tutto insieme un controllo. Il metodo e i risultati di un test in sandbox con 500 richieste concorrenti sono pubblicati nella guida collegata qui sotto.
Un limite può avvisare invece di bloccare?
Sì. Ogni limite è bloccante o solo di avviso e le soglie di avviso le imposti tu.
Il contratto completo è nella Documentazione dei controlli di spesa, e tutte le altre domande sono nelle FAQ.
Guide pratiche
- Guida praticaDoes an AI spend cap hold under 500 concurrent requests?A spend cap that checks a running total and then serves the request will be passed by a burst. Here is why, how a reservation-based cap is built instead, and what a sandbox test of one did and did not show.
- Guida praticaLLM spend controls: budgets, alerts, and hard limitsBudgets should guide normal growth and contain abnormal behavior. Use scoped alerts for humans and hard ceilings for the failure modes that cannot wait.
- Guida praticaCoding agent costs for teams: Claude Code, Codex and capsTwo ways to pay for coding agents, the mechanics that make an agent session expensive, and a working plan for measuring spend per developer, repository and project, then capping it before the provider call.
Inizia
Provalo sui tuoi account dei provider.
Collega un provider, crea una chiave del gateway e cambia un URL di base. I tuoi provider continuano a fatturarti direttamente; 0% di ricarico sulla spesa per i modelli.