Pular para o conteúdo

Gateway de IA

Um gateway na frente dos provedores de IA que você já usa. Suas contas, seus preços, 0% de margem sobre os gastos com modelos.

Cancele antes do dia 14 e não pague nada.

  • RoteamentoRegras escolhem o modelo para cada requisição.
  • FailoverOutro provedor assume quando um falha.
  • OrçamentosLimites de gastos verificados antes de cada chamada.

Seus provedores, roteados por um único gateway

OpenAIAnthropicGoogle AI (Gemini)Azure OpenAIAWS BedrockGoogle Vertex AIxAIMistralCohereGroqTogether AIFireworks AIDeepSeekOpenRouterRunwayTypeSafeCloudflare Workers AIInceptionLiquid AIUpstageMoonshot AI (Kimi)Z.ai (GLM)MiniMaxAlibaba Cloud Model StudioCerebrasPerplexityElevenLabsfal.aiReplicate

Tem uma API de IA? Participe do Provider Program

Roteamento

Um fluxo de requisições entrando em um plano de controle de vidro em camadas, com caminhos separados saindo para cinco endpoints de provedores.

Conecte as contas de provedor que você já tem. Suas aplicações chamam uma única API; cada requisição roda com suas credenciais e é cobrada pelo seu provedor.

Como as rotas funcionam Provedores compatíveis

Produto

Inspecione uma requisição, teste um fallback, conecte um provedor e defina um orçamento, aqui mesmo.

Requisições

4 requisições · últimos 15 minutos

HorárioProjetoProvedorStatusLatênciaCusto est.
Atendida
3 de 4
Recuperada pelo fallback
1
Recusada antes de um provedor
1
Custo est. do provedor
$0.0100

Selecione uma requisição para ver cada tentativa, sua latência e seu custo estimado.

Desenvolvedores

Mantenha o seu cliente da OpenAI. Mude três linhas, ou deixe o seu agente de código fazer isso.

Chave de API
Uma chave do gateway do INFRO. As credenciais dos provedores ficam seladas dentro do INFRO.
URL base
https://api.infro.io/v1
Modelo
Um id vendor/model, ou uma rota que você configurou.

As respostas mantêm o formato da OpenAI. As recusas do próprio INFRO têm seus próprios códigos de erro.

app.py+3−2
import osfrom openai import OpenAI client = OpenAI(Removido:     api_key=os.environ["OPENAI_API_KEY"],Adicionado:     api_key=os.environ["INFRO_API_KEY"],Adicionado:     base_url="https://api.infro.io/v1",) response = client.chat.completions.create(Removido:     model="gpt-5.6-terra",Adicionado:     model="openai/gpt-5.6-terra",    messages=messages,)

Configure projetos, chaves, rotas e orçamentos como código por meio de /manage/v1. API de gerenciamento

Plataforma

Todos os recursos rodam nas contas de provedor que você conecta.

Regras decidem para onde uma requisição vai. Regras de falha decidem o que acontece em seguida.

Adicione regras condicionais a uma rota e escolha o que cada tipo de falha faz.

  • Condições sobre a requisição. Metadados, recurso, usuário, chave, tamanho do prompt, ferramentas ou hora do dia.
  • Tentar de novo, fazer failover ou parar. Escolha por falha: limite de taxa, erro do servidor, tempo limite, conexão ou credencial.
  • Várias chaves por provedor. Chaves ativas dividem o tráfego; chaves reserva assumem.

O failover se aplica antes de a resposta começar. Streams interrompidos não são reiniciados.

Uma requisição com o recurso support-triage chega à rota chamada support. Sua primeira regra, long-prompts, envia prompts estimados acima de 32.000 tokens de entrada para uma conexão do Vertex AI e não corresponde. A segunda, support-triage, corresponde e envia a requisição para uma conexão da Anthropic e depois para uma conexão do AWS Bedrock. A Anthropic responde 429, a regra de falha da rota para rate_limit diz failover, e a conexão do Bedrock a atende: a resposta informa a rota, a posição na cadeia standby_a e o provedor.

Imagens, vídeo e som nos provedores que você já paga, do primeiro prompt ao corte que seu editor abre.

Um projeto de exemplo, Mercado noturno: um spot de 30 segundos com 9 planos. Cada keyframe foi feito com GPT Image 2 e animado em um modelo de vídeo, com voz, efeitos e música nos modelos de áudio dos próprios provedores da organização.

Em todos os planos, sem add-on. 0% de margem sobre os gastos com modelos.

Modelos de decisão

Modelos de decisão respondem a perguntas tipadas com probabilidades. O INFRO transforma cada resposta em uma ação: um modelo, um bloqueio, uma aprovação, um rótulo.

8modelos de decisão, uma APICada um na sua própria conta de provedor.
POST/v1/chat/completionsClassificador de rota

Três prompts chegam a uma rota. Para cada um, o modelo de decisão responde a uma pergunta de escolha, quanto raciocínio a requisição exige, com uma probabilidade para small, medium e large. As regras de rota do INFRO enviam a requisição ao modelo da classe mais provável, e a resposta informa a classe no header X-INFRO-Route-Class. Respondido aqui por GPT-6 Luna (Decisions) da OpenAI.

  • Suas contas de provedorCada decisão roda na sua própria conexão, cobrada pelo seu provedor.
  • Dentro dos seus orçamentosVerificado contra o escopo da chave e os limites de gastos antes da chamada.
  • Registrado com seu custoCada chamada é uma linha no log de requisições: modelo, resposta, custo estimado.

Preços

Funções, orçamentos e política de modelos em todos os planos. O faturamento anual custa cerca de 2 meses a menos.

  • Developer

    Sua primeira funcionalidade de IA em produção, com um fallback quando o provedor falha.

    $35/ mês

    Requisições ao gateway
    100k / mês
    Assentos
    1
  • Startup

    Para startups de IA cuja fatura de modelos cresce mais rápido que o número de pessoas.

    $79/ mês

    Requisições ao gateway
    500k / mês
    Assentos
    3
  • Team

    Custo por cliente, por funcionalidade e por chave, para equipes que precificam o próprio produto com base nisso.

    $199/ mês

    Requisições ao gateway
    2M / mês
    Assentos
    10
  • Business

    Confira os custos informados pela OpenAI e pela Anthropic com os seus próprios logs.

    $599/ mês

    Requisições ao gateway
    10M / mês
    Assentos
    Ilimitado

Enterprise

Para organizações com compras, revisão de segurança e termos próprios.

Preço personalizado

Faturado trimestral ou anualmente. 0% de margem sobre o gasto com modelos.

Tudo do Business, incluindo SSO e SCIM, e mais

  • Auto-hospedado ou híbrido: Na sua própria nuvem, ou híbrido com nosso console hospedado.
  • SLA contratual: Disponibilidade assumida em contrato, com reparações.
  • Um engenheiro designado: Um canal compartilhado e tempos de resposta a incidentes acordados.
  • Volume de requisições personalizado: Acordado com você, acima dos 10M por mês que o Business inclui.
  • 365 dias de histórico: Até 365 dias de histórico de requisições; o Business mantém 90.
  • Seu MSA e seu DPA: Seus documentos revisados e seu questionário de segurança respondido por escrito.

Teste de 14 dias · Cartão obrigatório · Cancele antes do dia 14 e você não será cobrado · 0% de margem sobre o gasto com modelos

Perguntas frequentes

O que exatamente é o INFRO?

O INFRO é um gateway de IA e um plano de controle: uma única API entre suas aplicações e os provedores de IA que você já paga, como OpenAI, Anthropic e Google. Você conecta suas próprias contas de provedor e mantém seus contratos e preços; o INFRO roteia cada requisição, faz failover quando um provedor retorna erro, verifica orçamentos antes da chamada, registra a latência e o custo estimado de cada requisição e aplica políticas sobre chaves, modelos e dados. Times de engenharia o usam para uma única integração com texto, imagem, vídeo e áudio; times financeiros, para os gastos por time, projeto e cliente; times de plataforma e segurança, para o controle central das chaves de provedor e do acesso a modelos. Seus provedores cobram o uso de modelos diretamente de você, nos seus preços; o INFRO cobra uma assinatura mensal pelo software, com 0% de margem sobre os gastos com modelos.

Por que usar o INFRO em vez de chamar a OpenAI ou a Anthropic diretamente?

Se você usa um modelo de um fornecedor e ninguém perguntou quanto ele custa, provavelmente deveria ir direto — essa é uma resposta real, e preferimos dá-la a desperdiçar sua avaliação. O INFRO se justifica quando pelo menos uma destas situações é verdadeira: você usa vários modelos de vários fornecedores, um incidente de um provedor já derrubou seu produto, alguém começou a perguntar qual cliente ou funcionalidade está gastando quanto, ou chaves de provedor começaram a aparecer em mais de um lugar. Você continua chamando os mesmos provedores nas mesmas contas; só deixa de ser dono da integração, do failover e da contabilidade entre eles.

Como o teste começa?

Crie uma conta em dash.infro.io e confirme seu endereço de e-mail. Você cria sua organização, escolhe um plano e adiciona um cartão no checkout, e seu teste de 14 dias começa quando esse checkout é concluído. No fim do dia 14, o plano escolhido é cobrado automaticamente — cancele antes do dia 14 e você não será cobrado. Durante todo esse tempo, seus provedores continuam cobrando você diretamente pelo uso de modelos.

Posso usar o Jev da TypeSafe pelo INFRO?

Sim. O INFRO serve o POST /v1/systemone da TypeSafe com o corpo de requisição e os nomes de modelo da TypeSafe, então o SDK da TypeSafe funciona com o INFRO usando uma nova URL base e uma chave do gateway do INFRO. Cada decisão roda na sua própria conta da TypeSafe, e a TypeSafe cobra você diretamente por ela. Antes de a TypeSafe ser chamada, o INFRO verifica a chave e qualquer limite de gastos; depois, retorna as respostas da TypeSafe com a versão que respondeu e um custo estimado, e registra a requisição.

O que acontece se o próprio INFRO falhar?

Passamos a ser mais uma dependência — esse é o custo honesto da troca, e você deve levá-lo em conta. Três coisas tornam isso administrável. A página de status roda em uma implantação separada e muito mais simples que o gateway e verifica o gateway a partir do seu próprio navegador. O texto usa o formato da OpenAI, então manter uma chave direta do provedor e uma troca de URL base na sua configuração é um plano de contingência de duas linhas que recomendamos ativamente. E não há SLA de disponibilidade publicado, porque um serviço sem histórico de operação não pode oferecer um com honestidade; um contrato enterprise pode incluir um SLA contratual.

Posso sair depois?

Sim, e a migração de volta são as mesmas duas linhas que trouxeram você. Recupere o histórico de requisições e de uso pelas APIs públicas, ou baixe-o em CSV pelo log de requisições e pelo Analytics, e guarde-o nos seus próprios sistemas antes que ele saia da janela de histórico consultável do seu plano. Não há exportações agendadas nem enviadas por e-mail.

Como os dados da nossa empresa são tratados, e vocês treinam com eles?

Nunca treinamos com seus prompts, entradas ou saídas, e nunca os vendemos. Os metadados de uso servem para a medição da plataforma, as estimativas de custo e a governança. O log opcional de prompts e respostas vem desativado por padrão e é limitado pelo seu plano. Registros de jobs e mídia gerada necessários para a entrega ficam à parte. As configurações de uso e retenção de dados dos seus provedores de IA continuam regidas pelos seus contratos com eles.

Mais 23 respostas

Comece na sua própria conta de provedor ou conheça o produto com a nossa equipe antes.