Pular para o conteúdo

Plugins de IA em um gateway de API

INFRO vs Kong AI Gateway

O Kong AI Gateway traz o tráfego de IA para o Kong Gateway, um dos gateways de API mais implantados: uma abstração de modelos e provedores sobre os principais provedores, balanceamento de carga e failover entre eles, cache semântico, limites de taxa por tokens e por custo, proteções de prompt, sanitização de PII, integrações com guardrails de nuvem e ferramentas MCP — tudo como políticas no mesmo runtime que já carrega as APIs de uma empresa. Se a sua equipe de plataforma usa Kong hoje, adicionar tráfego de IA a ele é uma mudança de configuração, não um novo fornecedor, e essa é uma posição forte.

Quando o Kong AI Gateway é a melhor escolha
  • Você já usa Kong. Suas APIs, seus plugins de autenticação, sua observabilidade e seu plantão já estão lá, e o tráfego de IA vira mais um conjunto de rotas sob o mesmo modelo de operação. Um segundo gateway na frente dos seus modelos seria escopo de que você não precisa.
  • Você precisa operar o gateway inteiro por conta própria — o data plane no seu próprio ambiente, ou control plane e data plane on-premises. O Kong é feito para isso. Os planos do INFRO são hospedados; implantação auto-hospedada e híbrida só vêm com um contrato enterprise.
  • A profundidade de plugins é o requisito. O ecossistema de plugins do Kong — plugins personalizados, transformações de requisição e resposta, integrações com guardrails de nuvem da AWS, do Azure e do Google — vai muito além do que o INFRO expõe, e o INFRO não tem nenhum sistema de plugins.
  • Você governa o tráfego de IA e o tráfego comum de APIs com um único modelo de políticas, e separar os dois custaria mais em consistência do que traria em recursos específicos de IA.

Esta seção não é cortesia. Se uma destas situações descreve você, escolha o Kong AI Gateway — um cliente que adota a camada errada por conselho nosso é pior para nós do que um que nunca tivemos.

Onde os dois realmente divergem.

Um gateway de API que aprendeu IA, ou um plano de controle feito para ela
A unidade do Kong é a rota e o plugin: os recursos de IA são políticas que você anexa ao tráfego que passa por um gateway de uso geral. A unidade do INFRO é a organização — projetos, ambientes, chaves do gateway, conexões de provedor e as pessoas responsáveis por eles —, e cada requisição traz um custo estimado do provedor atribuído a um projeto, chave, modelo, rota ou usuário final. Os dois são designs coerentes. A diferença aparece quando alguém de fora da equipe de plataforma faz uma pergunta: um líder do financeiro perguntando quanto o assistente de suporte custou no mês passado, ou um líder de equipe perguntando quais modelos o projeto dele pode chamar, recebe a resposta no console do INFRO sem uma consulta aos logs do gateway.
De onde vem o número de custo, e o que o confere
O Kong consegue impor limites de gasto: o plugin AI Rate Limiting Advanced calcula o custo a partir dos preços de entrada e saída que você define por modelo na configuração do AI Proxy e devolve 429 no limite. É um mecanismo capaz, e é um preço que você mantém na configuração do gateway. O INFRO guarda o preço publicado pelo fornecedor para cada modelo, permite informar os preços dos seus contratos a partir do plano Team, registra uma requisição sem preço conhecido como sem preço em vez de gratuita e, no plano Business, confere a estimativa do mês com as próprias APIs de custo da OpenAI e da Anthropic e mostra a variação. Os orçamentos então agem sobre esse número nos níveis de organização, projeto, membro e chave.
O que cada nível inclui
A página de preços do Kong lista controle de acesso por funções, single sign-on e log de auditoria como exclusivos do Enterprise; vários plugins de IA, entre eles o cache semântico, são um complemento pago no nível self-service; o nível self-service também limita quantos modelos distintos os plugins de IA intermediam; e a limitação de taxa por custo está documentada como parte da oferta AI Gateway Enterprise. Leia a página de preços deles para os detalhes. No INFRO, orçamentos, listas de permissões de modelos, o log de auditoria e o cache de respostas estão em todos os planos, membros e funções a partir do plano Startup, preços negociados e tetos por cliente final a partir do Team, e single sign-on, SCIM, guardrails, o gateway MCP e a reconciliação no Business.
Não é um ou outro
Muitas empresas que usam Kong vão continuar usando. O gateway do INFRO fala a API da OpenAI, então uma rota do Kong pode enviar tráfego de IA ao INFRO como upstream: o Kong mantém o conjunto de APIs e suas políticas de borda, e o INFRO adiciona por trás conexões de provedor, atribuição de custos, orçamentos e reconciliação. São dois saltos em vez de um, o que é um custo real, e se vale a pena depende de quanto da segunda lista você precisa.

Lado a lado.

A nossa coluna também tem traços. Uma comparação em que um dos lados só tem marcações de sim é uma em que ninguém acredita, e com razão.

RecursoKong AI GatewayINFRO
Uma API para muitos provedoressimentidades de modelo e de provedorsimos provedores que você conecta
Roteamento, novas tentativas e failoversimbalanceamento de carga entre provedoressim
Suas próprias contas de provedorsimcredenciais na configuração do gatewaysimconectado por ambiente
Imagem, vídeo e áudiosimrotas de imagem, fala, transcrição e vídeosimum formato de requisição para cada
Auto-hospedagemsimhíbrido ou totalmente auto-hospedadoparcialcontrato enterprise
Ecossistema de plugins e plugins personalizadossima especialidade delesnãosem sistema de plugins
Guardrails e ocultação de PIIsimprompt guards, sanitizador de PII, guardrails na nuvemparcialpadrões de chat mais classificadores de prompts; plano Business
Cache de respostassimcache semântico; complemento pago no Plusparcialcorrespondência exata, chat completions; todos os planos
Limites de gastos em dólares que recusam uma requisiçãoparciallimites de taxa por custo; AI Gateway Enterprisesim402; organização, projeto, membro, chave; todos os planos
Estimativas pelos seus preços negociadosparcialcusto por modelo na configuração do pluginsimarmazenado por organização; plano Team
Reconciliação com a fatura do próprio provedornãoparcialOpenAI e Anthropic, plano Business; variação mostrada
Funções, SSO e log de auditoriaparcialNível Enterprisesimauditoria em todos os planos; SSO e SCIM no Business
Disponível hojesimsimcadastro self-service

Nossa leitura da documentação pública de cada produto em outubro de 2026. Não citamos preços de concorrentes — os deles mudam, e um número errado sobre o negócio de outra pessoa é pior que nenhum. Acha que uma linha está errada? Avise e corrigiremos.

Calcule quanto vale a diferença

Estime quanto o seu mix atual de modelos custa pelas tarifas de tabela dos seus provedores e o plano de que ele precisa, ou peça que analisemos o seu uso real e digamos onde ajudaríamos e onde não.

Já usa o Kong AI Gateway? Leia o guia de migração do Kong AI Gateway: o código que muda, o que é mantido e o que não é.