Budget che fermano la spesa
Avvisa a una soglia, oppure blocca al limite prima che venga chiamato il provider.
- A. Keller60%
- M. Okafor66%
- S. Lindqvist60%
- J. Barros27%
Ruoli, budget, policy dei modelli e costo su ogni richiesta, sui contratti con i provider che hai già.
Gli account INFRO sono self-service. Il catalogo, la documentazione e il contratto dell'API sono pubblici, il gateway è in produzione e tutto ciò che va oltre la v1 è indicato come "Più avanti". Piani e prova
Il problema
Sei team, sei account dei provider, sei modi di fare logging. Metti un unico livello sotto e i team mantengono la loro velocità.
Senza un piano di controllo
Con INFRO
Controlli
Applicato nel gateway, prima che una richiesta raggiunga il tuo provider.
Avvisa a una soglia, oppure blocca al limite prima che venga chiamato il provider.
Approva i modelli per organizzazione, progetto o chiave.
→ 403 model_not_allowed
Per progetto, chiave o un id utente finale che alleghi.
Chiavi limitate a un progetto, così il raggio d'impatto è un solo progetto.
Single sign-on e provisioning dalla directory.
Incluso dal piano Business. Novità: nessun identity provider di un cliente ha ancora completato un ciclo completo in produzione, quindi pianifichiamo il primo insieme a te.
Solo in aggiunta nel database, non per convenzione.
Sicurezza
6 impegni in vigore oggi.
Continuità
Le route ritentano i fallimenti idonei su un'altra delle tue connessioni prima che inizi la risposta.
Nessun dato di uptime inventato qui. Un contratto prevede un impegno di disponibilità con rimedi.
Enterprise — Disponibile con un contratto enterprise anziché in self-service.Ripristina chiave, URL di base e id del modello. La cronologia di richieste e utilizzo si esporta tramite l'API.
Contratto
Il software e i suoi termini. Mai chi ti fattura l'utilizzo dei modelli.
Limiti
Meglio che tu lo scopra ora che alla quarta settimana.
FAQ
Tramite un'unica organizzazione con progetti e ambienti al suo interno. Invita membri con ruoli (proprietario, amministratore, sviluppatore, analista), assegna a ogni membro e progetto il proprio tetto di spesa, limita i modelli che ogni progetto può chiamare e consulta il log di audit per sapere chi ha cambiato cosa. Ogni team ha le proprie chiavi, il proprio budget e la propria policy sui modelli, così un carico di lavoro fuori controllo in un progetto non può spendere la quota di un altro team, mentre l'organizzazione mantiene un'unica vista su tutti. Dal piano Business, le persone accedono tramite il tuo identity provider via SAML o OIDC, e la tua directory può creare e disattivare la loro appartenenza a INFRO via SCIM.
È proprio così che è progettato. Colleghi gli account dei provider che hai già, quindi i tuoi prezzi negoziati, la spesa impegnata, gli sconti, le quote e gli accordi enterprise continuano ad applicarsi esattamente come oggi: il tuo provider ti fattura, ai tuoi prezzi, e INFRO non ne prende nulla. Se hai negoziato prezzi inferiori a quelli pubblicati, dal piano Team in su puoi inserirli nella console, e ogni cifra di costo che INFRO ti mostra viene allora calcolata dai tuoi invece che da un prezzo di listino. Andarsene richiede le stesse due righe dell'arrivo: ripristina l'URL di base e la chiave, e i tuoi account dei provider restano intatti perché sono sempre stati tuoi.
Diventiamo una dipendenza in più: è il costo onesto dello scambio, e dovresti tenerne conto. Tre cose lo rendono sostenibile. La pagina di stato gira su un deployment separato e molto più semplice del gateway e controlla il gateway dal tuo browser. Il testo usa la forma di OpenAI, quindi tenere una chiave diretta del provider e uno switch dell'URL di base nella tua configurazione è un piano di riserva di due righe che consigliamo attivamente. E non c'è uno SLA di uptime pubblicato, perché un servizio senza storico operativo non può offrirne onestamente uno; un accordo enterprise può includerne uno contrattuale.
Sì, e la migrazione di ritorno richiede le stesse due righe che ti hanno portato qui. Recupera lo storico di richieste e utilizzo tramite le API pubbliche, oppure scaricalo in CSV dal log delle richieste e da Analytics, e conservalo nei tuoi sistemi prima che esca dalla finestra di storico consultabile del tuo piano. Non ci sono esportazioni pianificate o inviate per email.
Non usiamo mai i tuoi prompt, input o output per l'addestramento, e non li vendiamo mai. I metadati di utilizzo servono alla misurazione della piattaforma, alle stime dei costi e alla governance. Il logging facoltativo di prompt e risposte è disattivato per impostazione predefinita e limitato dal tuo piano. I record dei job e i contenuti multimediali generati necessari per la consegna sono separati. Le impostazioni di uso e conservazione dei dati dei tuoi provider IA restano regolate dai tuoi accordi con loro.
Non ancora, e non affermeremo il contrario. L'elaborazione regionale richiede diritti infrastrutturali che non abbiamo acquistato, e un hostname che sembra soltanto europeo è un'affermazione di conformità che un cliente può smentire con una sola richiesta. Quando sarà applicata davvero lo diremo; fino ad allora, considera che le richieste vengono elaborate ovunque ci sia capacità, e trattalo come un motivo per parlarci prima di firmare qualcosa che dipende dalla residenza dei dati.
No, e non lo lasceremo intendere in una slide. Ciò che esiste invece è pubblicato, non promesso, su /trust: una roadmap SOC 2 con una società di audit incaricata e la finestra di osservazione non ancora pianificata, la ISO 27001 indicata come in valutazione senza data stabilita, i controlli applicati oggi accanto a quelli che non lo sono, e le nostre risposte a un questionario di sicurezza standard in un documento che puoi scaricare senza parlare con noi. Anche il DPA con le Clausole Contrattuali Standard, l'elenco dei subresponsabili e la policy di utilizzo accettabile sono pubblicati integralmente. Inviaci comunque il tuo questionario: rispondiamo a ogni domanda, comprese quelle la cui risposta è non ancora. Se una certificazione è un requisito vincolante per voi, diccelo all'inizio e ti diremo chiaramente che oggi non possiamo soddisfarlo.
I vendor infrastrutturali sono indicati su /subprocessors, con i periodi di preavviso e l'eccezione di emergenza spiegati lì. Scegli tu i provider IA che colleghi e stipuli direttamente i contratti con loro. Le trace delle richieste identificano le connessioni tentate; l'uso e la conservazione dei dati da parte dei provider seguono i tuoi accordi e le impostazioni del tuo account.
Sì, con un accordo enterprise: l'abbonamento viene fatturato trimestralmente o annualmente alle tue condizioni invece di essere addebitato su una carta. È una fattura solo per il software. L'uso dei modelli ti viene fatturato dai tuoi provider alle condizioni che hai già con loro, e nessun accordo con INFRO cambia questo né lo porta su una fattura INFRO.
L'elenco completo delle risposte tratta latenza, meccanismi di prezzo e interruzioni dei provider.
Contatti
Raccontaci cosa usano oggi i tuoi team. Un ingegnere risponde via email e ti dice chiaramente dove INFRO non è adatto.
Ti serve un numero per un carico di lavoro specifico? Richiedi una stima del carico di lavoro. Oppure scrivi a sales@infro.io.