본문으로 건너뛰기

마이그레이션 가이드Bifrost에서

직접 운영하는 Bifrost 게이트웨이에서

Bifrost는 직접 배포하는 Go 기반 오픈 소스 게이트웨이로, 가상 키, 예산, 폴백, 캐싱을 갖추고 가드레일, SSO, 클러스터링을 위한 Enterprise 등급이 있습니다. INFRO는 같은 거버넌스를 호스팅 서비스로 제공합니다. 요청은 거의 바뀌지 않습니다. 달라지는 것은 팀의 누구도 게이트웨이를 운영하지 않는다는 점입니다.

Maxim의 오픈소스(Apache 2.0) Go 게이트웨이, 자체 호스팅, 라이선스형 Enterprise 등급 있음

INFRO 계정은 셀프 서비스입니다. 카탈로그, 문서, API 계약은 공개되어 있고, 게이트웨이는 배포되어 있으며, v1 이후의 기능은 Later로 표시됩니다. 요금제와 체험

현재 상황

라이선스

Maxim의 Apache 2.0. 가드레일, 적응형 로드 밸런싱, SSO, RBAC, 감사 로그, 클러스터링은 상용 라이선스 Enterprise 등급에 있습니다.

요청을 처리하는 계정

사용자 것입니다. 공급자 키는 자체 Bifrost 배포에 있습니다.

거버넌스는 선택 사항입니다

강제 적용을 켜지 않으면 가상 키가 없는 요청은 거버넌스 없이 통과합니다. INFRO에서는 모든 요청에 게이트웨이 키가 필요합니다.

Bifrost는 빠르고, 오픈 소스이며, 직접 운영할 수 있습니다. 다음 중 하나에 해당하면 유지하세요.

  • 게이트웨이가 네트워크 안, VPC, 또는 에어갭에서 실행되어야 합니다.
  • 시맨틱 캐싱, 세션 어피니티, Go 플러그인 또는 비동기 추론 작업을 쓰는 경우입니다.
  • 요청별 차원(x-bf-dim-*)을 붙여 Prometheus나 Datadog으로 내보내는 경우입니다.
  • INFRO가 연결하지 않는 공급자나 노트북의 Ollama를 호출하는 경우입니다.

수정 사항을 한 행에 하나씩 정리했습니다. 여기에 없는 것은 그대로 유지됩니다.

 BifrostINFRO
베이스 URLhttp://localhost:8080/openai 또는 자체 배포 주소.https://api.infro.io/v1
키x-bf-vk 또는 Authorization의 가상 키(sk-bf-*).Authorization: Bearer의 INFRO 게이트웨이 키.
모델 IDopenai/gpt-5.6-terra, vertex/gemini-3.8-flash, azure/gpt-prod.openai/gpt-5.6-terra, google/gemini-3.8-flash. 공급자는 연결 또는 routing.providers로 정해집니다.
헤더와 필드fallbacks, x-bf-cache-*, x-bf-dim-*, x-request-id.fallbacks, cache, metadata.tags, X-INFRO-Trace-Id.

이전 · Bifrost

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "http://localhost:8080/openai",
  apiKey: process.env.BIFROST_VIRTUAL_KEY,
  defaultHeaders: { "x-bf-dim-feature": "chat" },
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
  // @ts-expect-error Bifrost extension
  fallbacks: ["anthropic/claude-sonnet-5.5"],
});

이후 · INFRO

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
  // @ts-expect-error INFRO extensions
  fallbacks: ["anthropic/claude-sonnet-5.5"],
  metadata: { tags: { feature: "chat" } },
});

공급자 접두사

INFRO 모델 ID는 호스트가 아니라 벤더를 가리킵니다. Google AI에서 실행되든 Vertex에서 실행되든 google/gemini-3.8-flash입니다. 어느 연결이 처리할지는 연결, 라우트, routing.providers가 정합니다.

같은 `fallbacks` 필드

둘 다 모델 ID 목록을 받습니다. INFRO의 목록은 model의 모든 연결이 실패한 후 최대 5개까지 시도됩니다.

차원은 태그가 됩니다

x-bf-dim-* 헤더는 metadata.tags 아래의 키가 되고, 사용량에서 그룹화되며 요청 로그에서 필터링됩니다.

Bifrost의 공개 문서(2026년 10월 19일에 읽음)를 바탕으로 Bifrost의 객체를 INFRO의 객체와 대조하고, 게이트웨이가 구현한 내용과 비교해 확인했습니다. INFRO에 없다고 표시된 행이 1개입니다.

Bifrost그곳에서 하는 일INFRO에서
가상 키같은 구조허용 모델과 공급자, 예산, 속도 제한, 만료.허용 목록, 공급자 목록, 지출 한도, 요청 속도 등급, IP 범위, 교체를 갖춘 게이트웨이 키.
계층형 예산같은 구조가상 키, 팀, 고객 간.조직, 프로젝트, 멤버, 키, 최종 고객에 걸쳐, 동시 실행에서도 유지됩니다.
폴백과 재시도같은 구조fallbacks와 공급자별 재시도 백오프.fallbacks, 그리고 종류별 실패 규칙이 있는 라우트.
키 간 로드 밸런싱같은 구조공급자 키 간. Enterprise에서는 적응형.공급자의 키 전반에 분산하고 대기 키는 마지막에, 가중치 라우트.
시맨틱 캐싱다름고객 자체 벡터 스토어에서 정확 일치 및 시맨틱.정확 일치만, 호스팅형.
관측다름Prometheus 메트릭, OTel 트레이싱, 요청 로그.예상 비용이 포함된 요청 로그와 트레이스, 내보내기, OpenTelemetry 수집기로 보내는 스팬. Prometheus 엔드포인트는 없습니다.
가드레일, SSO, 감사 로그같은 구조Enterprise 등급.가드레일이 포함된 요금제의 가드레일. Business부터 SSO와 SCIM. 감사 로그.
플러그인해당 없음요청 경로의 맞춤 Go 플러그인.없습니다. INFRO는 사용자의 코드를 실행하지 않습니다.
자체 호스팅다름Apache 2.0, 어디서나.호스팅형. 자체 호스팅 또는 하이브리드는 엔터프라이즈 계약입니다.Enterprise — 셀프 서비스가 아닌 엔터프라이즈 계약으로 제공됩니다.

체험이나 벤치마크가 아니라 Bifrost의 공개 문서를 저희가 읽은 결과입니다. 잘못 읽은 부분이 있으면 알려 주세요. 해당 행을 수정하겠습니다.

INFRO가 하지 않는 것

  • 엔터프라이즈 계약 없이 자체 네트워크에서, 또는 오픈소스 라이선스로 실행합니다.
  • 시맨틱 캐싱, 세션 어피니티, 플러그인, 비동기 추론 작업.
  • Prometheus 메트릭 엔드포인트.

이어지지 않는 것

  • Bifrost 로그 저장소의 로그. 가져오기 도구는 없습니다.
  • 가상 키. INFRO 게이트웨이 키를 발급하고 호출자를 순차적으로 교체하세요.

질문

공급자 계정은 유지되나요?
예. INFRO 연결이 되며 계속 사용자에게 직접 청구합니다. INFRO는 모델 지출에 0%를 더합니다.
`fallbacks` 필드가 계속 작동하나요?
예. INFRO는 fallbacks를 최대 5개의 모델 ID 목록으로 받습니다.
INFRO를 저희 인프라에서 실행할 수 있나요?
엔터프라이즈 계약에서만 가능합니다. 요금제는 호스팅형입니다.

저희와 함께, 또는 직접 옮기세요

마이그레이션 프로그램에서는 통화로 Bifrost 설정을 INFRO 연결, 라우트, 예산에 매핑하고 첫 서비스를 함께 옮깁니다. 공급자는 계속 고객에게 직접 청구하며, INFRO는 구독이고 모델 지출에 0%를 더합니다.

14일 체험 시작 마이그레이션 세션 예약INFRO vs Bifrost빠른 시작 읽기

출처

이 페이지에서 Bifrost에 관한 모든 서술은 2026년 10월 19일에 읽은 다음 자료 중 하나에서 나왔습니다. 체험, 벤치마크, 대화에서 추론한 것은 없습니다.