API 게이트웨이의 AI 플러그인
INFRO vs Kong AI Gateway
Kong AI Gateway는 가장 널리 배포된 API 게이트웨이 중 하나인 Kong Gateway에 AI 트래픽을 올립니다. 주요 공급자에 대한 모델 및 공급자 추상화, 공급자 간 부하 분산과 페일오버, 시맨틱 캐싱, 토큰 및 비용 기반 속도 제한, 프롬프트 가드, PII 정제, 클라우드 가드레일 연동, MCP 도구를 모두 회사의 API를 이미 처리하고 있는 같은 런타임의 정책으로 제공합니다. 플랫폼 팀이 이미 Kong을 운영한다면 AI 트래픽을 추가하는 것은 새 벤더가 아니라 설정 변경이며, 이는 강력한 위치입니다.
- 이미 Kong을 운영하고 있는 경우입니다. API, 인증 플러그인, 관측, 온콜이 모두 그곳에 있고, AI 트래픽은 같은 운영 모델 아래의 라우트가 하나 더 늘어나는 것일 뿐입니다. 모델 앞에 게이트웨이를 하나 더 두는 것은 필요 없는 범위입니다.
- 게이트웨이 전체를 직접 운영해야 하는 경우입니다. 데이터 플레인을 자체 환경에 두거나, 컨트롤 플레인과 데이터 플레인을 모두 온프레미스에 둡니다. Kong은 그 용도로 만들어졌습니다. INFRO의 요금제는 호스팅형이며, 자체 호스팅과 하이브리드 배포는 엔터프라이즈 계약으로만 제공됩니다.
- 플러그인의 깊이가 요구 사항일 때입니다. 커스텀 플러그인, 요청 및 응답 변환, AWS, Azure, Google과의 클라우드 가드레일 연동 같은 Kong의 플러그인 생태계는 INFRO가 제공하는 것을 훨씬 넘어서며, INFRO에는 플러그인 시스템 자체가 없습니다.
- AI 트래픽과 일반 API 트래픽을 하나의 정책 모델로 통제하는 경우입니다. 둘을 나누면 AI 전용 기능으로 얻는 것보다 일관성에서 잃는 것이 더 큽니다.
이 섹션은 예의상 넣은 것이 아닙니다. 이 중 하나에 해당한다면 Kong AI Gateway 쪽을 선택하세요. 저희 조언으로 맞지 않는 계층을 도입한 고객은 처음부터 고객이 아니었던 경우보다 저희에게 더 나쁩니다.
두 제품이 실제로 갈라지는 지점.
- AI를 배운 API 게이트웨이인가, AI를 위해 만든 컨트롤 플레인인가
- Kong의 단위는 라우트와 플러그인입니다. AI 기능은 범용 게이트웨이를 지나는 트래픽에 붙이는 정책입니다. INFRO의 단위는 조직입니다. 프로젝트, 환경, 게이트웨이 키, 공급자 연결, 그리고 그것들을 소유한 사람들로 이루어지며, 모든 요청에는 프로젝트, 키, 모델, 라우트, 최종 고객에 귀속된 예상 공급자 비용이 붙습니다. 둘 다 일관된 설계입니다. 차이는 플랫폼 팀 밖의 누군가가 질문할 때 드러납니다. 지난달 지원 어시스턴트에 비용이 얼마나 들었는지 묻는 재무 담당자나, 프로젝트가 어떤 모델을 호출할 수 있는지 묻는 팀 리더는 게이트웨이 로그를 쿼리하지 않고도 INFRO 콘솔에서 답을 얻습니다.
- 비용 수치의 출처와 그것을 검증하는 방법
- Kong도 지출을 강제할 수 있습니다. AI Rate Limiting Advanced 플러그인은 AI Proxy 설정에서 모델별로 지정한 입력 및 출력 가격으로 비용을 계산하고, 한도에 도달하면 429를 반환합니다. 유능한 방식이지만, 그 가격은 게이트웨이 설정에서 직접 유지해야 합니다. INFRO는 모델별 벤더 공개 요율을 보관하고, Team 요금제부터는 계약에 명시된 요율을 입력할 수 있으며, 알려진 가격이 없는 요청은 무료가 아니라 가격 미정으로 기록합니다. Business 요금제에서는 그 달의 추정치를 OpenAI와 Anthropic의 자체 비용 API와 대조하고 편차를 명시합니다. 예산은 그 수치를 기준으로 조직, 프로젝트, 멤버, 키 단위에서 작동합니다.
- 각 등급에 포함된 것
- Kong의 가격 페이지에는 역할 기반 접근 제어, 싱글 사인온, 감사 로깅이 Enterprise 전용으로, 시맨틱 캐싱을 포함한 일부 AI 플러그인이 셀프 서비스 등급의 유료 추가 기능으로 나와 있습니다. 셀프 서비스 등급은 AI 플러그인이 프록시할 수 있는 서로 다른 모델의 수도 제한하며, 비용 기반 속도 제한은 AI Gateway Enterprise 제공 항목으로 문서화되어 있습니다. 자세한 내용은 해당 가격 페이지를 확인하세요. INFRO에서는 예산, 모델 허용 목록, 감사 로그, 응답 캐시가 모든 요금제에 있고, 멤버와 역할은 Startup 요금제부터, 협상 요율과 최종 고객 한도는 Team부터, 싱글 사인온, SCIM, 가드레일, MCP 게이트웨이, 대조는 Business에서 제공됩니다.
- 양자택일이 아님
- Kong을 운영하는 많은 회사는 계속 그대로 운영할 것입니다. INFRO의 게이트웨이는 OpenAI API를 사용하므로 Kong 라우트가 AI 트래픽을 INFRO로 업스트림 전송할 수 있습니다. Kong은 API 전반과 엣지 정책을 유지하고, INFRO는 그 뒤에서 공급자 연결, 비용 배분, 예산, 대조를 더합니다. 이는 홉이 하나가 아니라 둘이 된다는 뜻이며 실제 비용입니다. 그만한 가치가 있는지는 두 번째 목록이 얼마나 필요한지에 달려 있습니다.
나란히 비교.
저희 열에도 대시가 있습니다. 한쪽이 모두 체크인 비교는 아무도 믿지 않으며, 그럴 만합니다.
| 기능 | Kong AI Gateway | INFRO |
|---|---|---|
| 여러 공급자를 아우르는 API 하나 | 예모델 및 공급자 엔터티 | 예연결한 공급자 |
| 라우팅, 재시도, 페일오버 | 예공급자 간 부하 분산 | 예 |
| 자체 공급자 계정 | 예게이트웨이 설정에 자격 증명 저장 | 예환경별로 연결 |
| 이미지, 동영상, 오디오 | 예이미지, 음성, 전사, 동영상 라우트 | 예각각 하나의 요청 형태 |
| 자체 호스팅 | 예하이브리드 또는 완전 자체 호스팅 | 부분엔터프라이즈 계약 |
| 플러그인 생태계와 커스텀 플러그인 | 예각자의 전문 분야 | 아니요플러그인 시스템 없음 |
| 가드레일 및 PII 마스킹 | 예프롬프트 가드, PII 정제, 클라우드 가드레일 | 부분채팅 패턴과 프롬프트 분류기, Business 요금제 |
| 응답 캐싱 | 예시맨틱 캐시, Plus의 유료 추가 기능 | 부분정확 일치, 채팅 완성, 모든 요금제 |
| 요청을 거부하는 달러 단위 지출 한도 | 부분비용 모드 속도 제한, AI Gateway Enterprise | 예402, 조직, 프로젝트, 멤버, 키, 모든 요금제 |
| 협상 요율 기준의 추정 | 부분플러그인 설정의 모델별 비용 | 예조직별로 저장, Team 요금제 |
| 공급자 자체 청구서와의 대조 | 아니요 | 부분OpenAI와 Anthropic, Business 요금제, 편차 명시 |
| 역할, SSO, 감사 로그 | 부분Enterprise 등급 | 예모든 요금제에서 감사 로그, SSO와 SCIM은 Business |
| 현재 사용 가능 | 예 | 예셀프 서비스 가입 |
각 제품의 공개 문서를 2026년 10월 기준으로 저희가 읽은 내용입니다. 경쟁사의 가격은 인용하지 않습니다. 가격은 바뀌고, 다른 회사 사업에 대한 틀린 숫자는 없는 것보다 나쁘기 때문입니다. 틀린 행이 있다고 생각되면 알려 주세요. 고치겠습니다.
그 차이의 가치를 계산해 보세요
현재 모델 구성이 공급자 정가로 얼마나 드는지와 필요한 요금제를 추정하거나, 실제 사용량을 저희에게 보내 도움이 되는 곳과 그렇지 않은 곳을 확인하세요.
이미 Kong AI Gateway 사용 중이신가요? Kong AI Gateway에서 옮겨 오는 마이그레이션 가이드를 읽어 보세요: 바뀌는 코드, 그대로 이어지는 것과 그렇지 않은 것.