Gateways de IA comparados.

Um serviço entre a sua aplicação e os provedores de modelos de IA que ela chama. Seu código envia requisições para um endpoint, e o gateway escolhe o provedor, tenta de novo ou faz failover quando um está fora do ar, registra o que cada requisição fez e quanto custou, e aplica a política que você definir — orçamentos, modelos permitidos, limites de taxa. Os produtos diferem principalmente em quem detém a conta do provedor, se a política é aplicada antes da chamada ou relatada depois dela, e se quem opera o gateway é você ou o fornecedor.

Depende do produto, e é a primeira coisa a verificar. Algumas plataformas compram a inferência por você a partir de um saldo que você deposita com elas; outras roteiam pelas suas próprias chaves de provedor, às vezes com uma taxa sobre esse uso; algumas oferecem as duas coisas. O INFRO só faz a segunda e não cobra nada sobre ela: seus provedores cobram você diretamente pelos seus próprios preços, e o INFRO cobra uma assinatura. A coluna Quem paga o custo na tabela acima é a nossa leitura da documentação de cada produto.

Você precisa de algo no caminho da requisição, porque um limite só consegue recusar uma requisição que ele vê antes do provedor. Vários gateways fazem isso — o INFRO verifica orçamentos por organização, projeto, membro e chave antes da chamada; OpenRouter, Cloudflare AI Gateway e LiteLLM documentam seus próprios orçamentos ou limites de gastos. Ferramentas de observabilidade como o Langfuse registram o custo depois da chamada e podem alertar sobre ele, o que é útil, mas não impedem a requisição.

Quase todos os produtos desta página estimam o custo por requisição. As perguntas que os diferenciam são qual preço a estimativa usa (o preço de tabela do fornecedor ou o preço do seu contrato), o que acontece quando um modelo não tem preço conhecido e se o número é alguma vez conferido com a fatura do próprio provedor. O INFRO usa seus preços negociados a partir do plano Team, marca uma requisição como sem preço em vez de adivinhar e, no plano Business, confere a estimativa do mês com as APIs de custo da OpenAI e da Anthropic.

Nem sempre. Se o roteamento e o acesso aos provedores estão resolvidos e ninguém precisa de orçamentos que recusem uma requisição, uma ferramenta de observabilidade e avaliação como o Langfuse pode ser tudo de que você precisa. Se você precisa de roteamento, failover e orçamentos aplicados, precisa de um gateway; e equipes que também querem avaliação profunda e gerenciamento de prompts costumam usar os dois, com o gateway exportando traces para a ferramenta de observabilidade.

A partir da documentação pública de cada produto, lida na data que cada página informa — não de um teste nem de um benchmark. Toda página diz claramente quando o outro produto é a melhor escolha, nenhuma cita o preço de um concorrente, e onde a documentação é ambígua a marcação é suavizada em vez de defendida. Se você acha que uma linha está errada, avise e vamos corrigir.