Orçamentos que interrompem o gasto
Alerte em um limiar ou bloqueie no limite antes de o provedor ser chamado.
- A. Keller60%
- M. Okafor66%
- S. Lindqvist60%
- J. Barros27%
Funções, orçamentos, política de modelos e custo em cada requisição, sobre os contratos com provedores que você já tem.
As contas do INFRO são self-service. O catálogo, a documentação e o contrato da API são públicos, o gateway está implantado, e tudo o que vai além da v1 está marcado para depois. Planos e teste
O problema
Seis equipes, seis contas de provedor, seis formas de registrar logs. Coloque uma camada por baixo e as equipes mantêm a velocidade.
Sem um plano de controle
Com o INFRO
Controles
Aplicado no gateway, antes que uma requisição chegue ao seu provedor.
Alerte em um limiar ou bloqueie no limite antes de o provedor ser chamado.
Aprove modelos por organização, projeto ou chave.
→ 403 model_not_allowed
Por projeto, chave ou um id de usuário final que você anexa.
Chaves restritas a um projeto, então o raio de impacto é um projeto.
Single sign-on e provisionamento de diretório.
Incluído a partir do plano Business. Novo: nenhum provedor de identidade de cliente concluiu ainda um ciclo completo em produção, então planejamos o primeiro com você.
Somente acréscimo no banco de dados, não por convenção.
Segurança
6 compromissos vigentes hoje.
Continuidade
As rotas tentam de novo as falhas elegíveis em outra das suas conexões antes de a resposta começar.
Nenhum número de disponibilidade inventado aqui. Um contrato traz um compromisso de disponibilidade com reparações.
Enterprise — Disponível em um contrato enterprise, não em self-service.Volte a chave, a URL base e o id do modelo. O histórico de requisições e de uso é exportado pela API.
Contrato
O software e os seus termos. Nunca quem cobra você pelo uso de modelos.
Limites
Melhor você descobrir isto agora do que na quarta semana.
Perguntas frequentes
Por meio de uma organização com projetos e ambientes abaixo dela. Convide membros com funções (proprietário, administrador, desenvolvedor, analista), dê a cada membro e projeto seu próprio teto de gastos, restrinja quais modelos cada projeto pode chamar e consulte o log de auditoria para ver quem mudou o quê. Cada equipe tem suas próprias chaves, orçamento e política de modelos, então uma carga descontrolada em um projeto não consegue gastar a cota de outra equipe — enquanto a organização mantém uma visão única de todas elas. A partir do plano Business, as pessoas entram pelo seu próprio provedor de identidade via SAML ou OIDC, e seu diretório pode criar e desativar a participação delas no INFRO via SCIM.
Essa é a ideia. Você conecta as contas de provedor que já tem, então seus preços negociados, gastos comprometidos, descontos, cotas e contratos enterprise continuam valendo exatamente como hoje — seu provedor cobra você, pelos seus preços, e o INFRO não fica com nada disso. Se você negociou preços abaixo dos publicados, o plano Team e superiores permitem informá-los no console, e todo valor de custo que o INFRO mostra passa a ser calculado com base nos seus, e não em um preço de tabela. Sair são as mesmas duas linhas que entrar: volte a URL base e a chave, e suas contas de provedor ficam intactas, porque sempre foram suas.
Passamos a ser mais uma dependência — esse é o custo honesto da troca, e você deve levá-lo em conta. Três coisas tornam isso administrável. A página de status roda em uma implantação separada e muito mais simples que o gateway e verifica o gateway a partir do seu próprio navegador. O texto usa o formato da OpenAI, então manter uma chave direta do provedor e uma troca de URL base na sua configuração é um plano de contingência de duas linhas que recomendamos ativamente. E não há SLA de disponibilidade publicado, porque um serviço sem histórico de operação não pode oferecer um com honestidade; um contrato enterprise pode incluir um SLA contratual.
Sim, e a migração de volta são as mesmas duas linhas que trouxeram você. Recupere o histórico de requisições e de uso pelas APIs públicas, ou baixe-o em CSV pelo log de requisições e pelo Analytics, e guarde-o nos seus próprios sistemas antes que ele saia da janela de histórico consultável do seu plano. Não há exportações agendadas nem enviadas por e-mail.
Nunca treinamos com seus prompts, entradas ou saídas, e nunca os vendemos. Os metadados de uso servem para a medição da plataforma, as estimativas de custo e a governança. O log opcional de prompts e respostas vem desativado por padrão e é limitado pelo seu plano. Registros de jobs e mídia gerada necessários para a entrega ficam à parte. As configurações de uso e retenção de dados dos seus provedores de IA continuam regidas pelos seus contratos com eles.
Ainda não, e não vamos afirmar o contrário. O processamento regional exige direitos de infraestrutura que não contratamos, e um hostname que apenas parece europeu é uma afirmação de conformidade que um cliente pode desmentir com uma requisição. Quando isso for de fato aplicado, vamos dizer; até lá, assuma que as requisições são processadas onde houver capacidade, e trate isso como motivo para falar conosco antes de assinar qualquer coisa que dependa de residência de dados.
Não, e não vamos sugerir o contrário em um slide. O que existe no lugar disso é publicado, não prometido, em /trust: um roadmap de SOC 2 com empresa de auditoria contratada e o período de observação ainda não agendado, ISO 27001 marcada como em avaliação sem data assumida, os controles aplicados hoje ao lado dos que não são, e nossas respostas a um questionário de segurança padrão como documento que você pode baixar sem falar conosco. O DPA com Cláusulas Contratuais Padrão, a lista de subprocessadores e a política de uso aceitável também estão publicados na íntegra. Envie seu próprio questionário mesmo assim — respondemos a todas as perguntas, inclusive àquelas cuja resposta ainda é não. Se um certificado for um requisito obrigatório do seu lado, diga isso no começo e diremos com clareza que não podemos atendê-lo hoje.
Os fornecedores de infraestrutura estão listados em /subprocessors, com os prazos de aviso e a exceção de emergência explicados lá. Você escolhe e contrata diretamente os provedores de IA que conecta. Os traces das requisições identificam as conexões tentadas; o uso e a retenção de dados pelo provedor seguem seus próprios contratos e configurações de conta.
Sim, com um contrato enterprise: a assinatura é faturada trimestral ou anualmente nas suas condições, em vez de cobrada em um cartão. Essa é uma fatura apenas pelo software. O uso de modelos é faturado pelos seus próprios provedores nas condições que você já tem com eles, e nenhum arranjo com o INFRO muda isso nem o coloca em uma fatura do INFRO.
A lista completa de respostas cobre latência, mecânica de preços e quedas de provedores.
Contato
Conte o que suas equipes rodam hoje. Um engenheiro responde por e-mail e diz claramente onde o INFRO não se encaixa.
Precisa de um número para uma carga de trabalho específica? Solicite uma estimativa da carga de trabalho. Ou escreva para sales@infro.io.