직접 호스팅하는 오픈소스 AI 게이트웨이
INFRO vs Bifrost
Bifrost는 Maxim AI의 오픈소스 AI 게이트웨이로, Apache-2.0 라이선스이며 자체 호스팅을 전제로 만들어졌습니다. 오픈소스 에디션에 대부분의 게이트웨이가 유료 등급에 넣는 것보다 많은 기능이 들어 있습니다. 키, 팀, 고객 단위의 달러 예산과 속도 제한이 있는 가상 키, 20곳 이상의 공급자에 걸친 폴백과 가중치 부하 분산, 시맨틱 캐싱, 키별 도구 허용 목록이 있는 MCP 게이트웨이, OpenTelemetry, 자체 요율을 위한 가격 재정의가 그것입니다. 가드레일, SSO, 역할 기반 접근, 감사 로그, 클러스터링, VPC 내 배포는 Enterprise 에디션에 포함됩니다. 라이선스 비용 없이 직접 운영할 수 있는 유능한 게이트웨이를 원한다면 진지하게 고려할 만한 선택입니다.
- 벤더와 계약 없이 오픈소스 코드로 자체 인프라에서 게이트웨이를 운영하고 싶은 경우입니다. 그것이 바로 Bifrost의 용도입니다. INFRO의 자체 호스팅과 하이브리드 배포는 엔터프라이즈 계약으로만 제공되며, 게이트웨이는 오픈소스가 아닙니다.
- 라이선스 비용 0으로 시작하고 싶은 경우입니다. Bifrost의 오픈소스 에디션에는 예산, 가상 키, 시맨틱 캐싱, MCP 게이트웨이가 들어 있습니다. INFRO의 기본 요금제는 유료이며 체험이 있습니다.
- 시맨틱 캐싱이 트래픽에 중요한 경우입니다. Bifrost는 유사한 프롬프트를 캐시에서 응답하지만, INFRO의 응답 캐시는 채팅 완성의 정확히 같은 반복 요청에만 응답합니다.
- 서비스를 설정하는 대신 코드를 읽고, 패치하고, 확장하고 싶은 경우입니다. 요청 경로의 Go 또는 WASM 플러그인이 그에 해당합니다.
이 섹션은 예의상 넣은 것이 아닙니다. 이 중 하나에 해당한다면 Bifrost 쪽을 선택하세요. 저희 조언으로 맞지 않는 계층을 도입한 고객은 처음부터 고객이 아니었던 경우보다 저희에게 더 나쁩니다.
두 제품이 실제로 갈라지는 지점.
- 직접 운영하는 소프트웨어인가, 이용하는 서비스인가
- Bifrost는 직접 운영해야 합니다. 배포, 업그레이드, 확장, 그리고 모든 모델 요청이 지나가는 구성 요소에 따라오는 온콜까지 포함합니다. Enterprise 에디션은 클러스터링과 VPC 내 배포를 추가하지만, 문서와 가격 페이지 어디에도 호스팅 서비스는 설명되어 있지 않습니다. 이미 이런 인프라를 운영하는 플랫폼 팀에게는 맞는 선택입니다. INFRO의 요금제는 호스팅형이라 배포할 것이 없고, 반대로 엔터프라이즈 계약으로 INFRO를 자체 인프라에 두지 않는 한 요청은 사용자의 서비스가 아닌 저희 서비스를 거칩니다.
- 추정치, 그리고 공급자 자체의 수치
- 두 제품 모두 가격 카탈로그로 비용을 추정하고 자체 요율을 받아들입니다. Bifrost는 전역부터 단일 가상 키와 공급자 키까지 범위를 정하는 가격 재정의로, INFRO는 Team 요금제부터 모델과 공급자 종류별로 저장한 요율로 처리합니다. 차이는 그다음입니다. Business 요금제에서 INFRO는 별도의 관리자 자격 증명으로 OpenAI와 Anthropic의 자체 비용 API를 읽고, 공급자가 보고한 값을 INFRO의 추정치 옆에 저장하며 편차를 명시합니다. Bifrost 문서에는 이에 해당하는 기능이 없습니다. 알려진 가격이 없을 때의 기본 동작도 다릅니다. Bifrost 문서에는 카탈로그 가격이 없는 커스텀 공급자는 재정의를 추가하기 전까지 $0으로 계산된다고 적혀 있고, INFRO는 그런 요청을 가격 미정으로 기록하며, 차단 예산은 허용하지 않는 한 가격 미정 트래픽을 거부합니다.
- 게이트웨이 너머
- INFRO는 게이트웨이와 그 주변의 운영 화면입니다. 재무 담당자와 팀 리더가 프로젝트, 키, 최종 고객별 지출을 읽는 콘솔, 소유자와 재무 멤버에게 이메일로 보내는 주간 요약과 월간 보고서, 이메일로 오는 지출 이상 및 드리프트 발견 사항(Startup 요금제부터는 Slack, Teams, PagerDuty, 서명된 웹훅으로도), 요청 형태 하나씩으로 제공되는 이미지, 동영상, 오디오와 서명된 웹훅 작업으로 처리하는 긴 렌더링, 그리고 모든 요금제에서 자체 공급자 연결로 이미지, 동영상, 오디오 작업을 하는 워크스페이스인 INFRO Studio가 포함됩니다. 이 중 어느 것도 게이트웨이 기능이 아니며, 게이트웨이만 필요한 팀이 그 값을 낼 이유는 없습니다.
- 양자택일이 아님
- 이미 운영 중인 Bifrost 배포는 OpenAI API를 사용하므로 OpenAI 호환 연결로 INFRO 뒤에 둘 수 있습니다. Bifrost는 그것만 닿는 공급자와 플러그인에 쓰도록 유지하고, INFRO의 비용 배분, 예산, 대조를 전체 환경 앞에 둡니다.
나란히 비교.
저희 열에도 대시가 있습니다. 한쪽이 모두 체크인 비교는 아무도 믿지 않으며, 그럴 만합니다.
| 기능 | Bifrost | INFRO |
|---|---|---|
| 여러 공급자를 아우르는 API 하나 | 예공급자 20곳 이상 | 예연결한 공급자 |
| 라우팅, 재시도, 페일오버 | 예 | 예 |
| 자체 공급자 계정 | 예자체 키로 직접 운영 | 예환경별로 연결 |
| 자체 호스팅과 오픈소스 | 예Apache-2.0 | 부분계약에 따른 자체 호스팅, 게이트웨이는 오픈소스 아님 |
| 배포하거나 운영할 것이 없음 | 아니요호스팅 제공은 문서화되지 않음 | 예호스팅 서비스 |
| 요청을 거부하는 예산 | 예402, 가상 키, 팀, 고객 | 예402, 조직, 프로젝트, 멤버, 키 |
| 자체 요율 기준의 추정 | 예가격 재정의, 9개 범위 | 예조직별로 저장, Team 요금제 |
| 알려진 가격이 없는 모델 | 부분재정의를 추가하기 전까지 $0 | 예가격 미정으로 기록, 차단 예산에서는 기본적으로 거부 |
| 공급자 자체 청구서와의 대조 | 아니요 | 부분OpenAI와 Anthropic, Business 요금제, 편차 명시 |
| 응답 캐싱 | 예시맨틱 | 부분정확 일치, 채팅 완성 |
| MCP 게이트웨이 | 예오픈소스 에디션, 키별 도구 허용 목록 | 예고정된 도구, 키별 권한 부여, Business 요금제 |
| 가드레일 | 부분Enterprise 에디션 | 부분채팅 패턴과 프롬프트 분류기, Business 요금제 |
| 역할, SSO, 감사 로그 | 부분Enterprise 에디션 | 예모든 요금제에서 감사 로그, SSO와 SCIM은 Business |
| 이미지, 동영상, 오디오 작업과 미디어 워크스페이스 | 부분미디어 요청 유형, 워크스페이스 없음 | 예비동기 작업, 서명된 웹훅, INFRO Studio |
| 현재 사용 가능 | 예 | 예셀프 서비스 가입 |
각 제품의 공개 문서를 2026년 10월 기준으로 저희가 읽은 내용입니다. 경쟁사의 가격은 인용하지 않습니다. 가격은 바뀌고, 다른 회사 사업에 대한 틀린 숫자는 없는 것보다 나쁘기 때문입니다. 틀린 행이 있다고 생각되면 알려 주세요. 고치겠습니다.
그 차이의 가치를 계산해 보세요
현재 모델 구성이 공급자 정가로 얼마나 드는지와 필요한 요금제를 추정하거나, 실제 사용량을 저희에게 보내 도움이 되는 곳과 그렇지 않은 곳을 확인하세요.
이미 Bifrost 사용 중이신가요? Bifrost에서 옮겨 오는 마이그레이션 가이드를 읽어 보세요: 바뀌는 코드, 그대로 이어지는 것과 그렇지 않은 것.