Naar de inhoud

MigratiegidsenVanaf Bifrost

Vanaf een Bifrost-gateway die je zelf draait

Bifrost is een open-source gateway in Go die je zelf deployt, met virtuele sleutels, budgetten, fallbacks en caching, en een Enterprise-tier voor guardrails, SSO en clustering. INFRO dekt dezelfde governance als gehoste dienst. Het verzoek verandert nauwelijks; wat verandert, is dat niemand in je team de gateway hoeft te beheren.

Open-source (Apache 2.0) Go-gateway van Maxim; zelf gehost, met een gelicentieerde Enterprise-laag

INFRO-accounts zijn selfservice. De catalogus, de documentatie en het API-contract zijn openbaar, de gateway is uitgerold, en alles na v1 is gemarkeerd als Later. Plannen en proefperiode

Hoe het ervoor staat

Licentie

Apache 2.0, van Maxim. Guardrails, adaptieve load balancing, SSO, RBAC, auditlogs en clustering zitten in een commercieel gelicentieerde Enterprise-tier.

Wiens account het verzoek bedient

De jouwe. Providersleutels staan in je eigen Bifrost-deployment.

Governance is opt-in

Zonder ingeschakelde handhaving gaat een verzoek zonder virtuele sleutel zonder governance door. Op INFRO heeft elk verzoek een gatewaysleutel nodig.

Bifrost is snel, open en van jou om te draaien. Houd het als een van deze punten geldt.

  • De gateway moet binnen je netwerk draaien, in een VPC of air-gapped.
  • Je gebruikt semantische caching, sessieaffiniteit, Go-plugins of asynchrone inferencejobs.
  • Je exporteert naar Prometheus of Datadog met dimensies per verzoek (x-bf-dim-*).
  • Je roept providers aan die INFRO niet koppelt, of Ollama op een laptop.

De wijzigingen, één rij per wijziging. Alles wat hier niet staat, blijft zoals het is.

 BifrostINFRO
Basis-URLhttp://localhost:8080/openai of je deployment.https://api.infro.io/v1
SleutelEen virtuele sleutel (sk-bf-*) in x-bf-vk of Authorization.Een INFRO-gatewaysleutel in Authorization: Bearer.
Model-IDopenai/gpt-5.6-terra, vertex/gemini-3.8-flash, azure/gpt-prod.openai/gpt-5.6-terra, google/gemini-3.8-flash; de provider wordt gekozen door je verbindingen of routing.providers.
Headers en veldenfallbacks, x-bf-cache-*, x-bf-dim-*, x-request-id.fallbacks, cache, metadata.tags, X-INFRO-Trace-Id.

Voor · Bifrost

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "http://localhost:8080/openai",
  apiKey: process.env.BIFROST_VIRTUAL_KEY,
  defaultHeaders: { "x-bf-dim-feature": "chat" },
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
  // @ts-expect-error Bifrost extension
  fallbacks: ["anthropic/claude-sonnet-5.5"],
});

Na · INFRO

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
  // @ts-expect-error INFRO extensions
  fallbacks: ["anthropic/claude-sonnet-5.5"],
  metadata: { tags: { feature: "chat" } },
});

Providerprefixen

Het model-ID van INFRO noemt de leverancier, niet de host: google/gemini-3.8-flash, of het nu op Google AI of Vertex draait. Welke van je verbindingen het bedient, bepalen je verbindingen, een route of routing.providers.

Hetzelfde `fallbacks`-veld

Beide accepteren een lijst model-ID's. Die van INFRO worden geprobeerd nadat elke verbinding voor model is mislukt, maximaal 5.

Dimensies worden tags

x-bf-dim-*-headers worden sleutels onder metadata.tags, gegroepeerd in het gebruik en gefilterd op het verzoeklog.

De objecten van Bifrost tegenover die van INFRO, op basis van de openbare documentatie van Bifrost gelezen op 19 oktober 2026 en getoetst aan wat de gateway implementeert. Eén rij zegt dat INFRO niets heeft.

BifrostWat het daar doetIn INFRO
Virtuele sleutelszelfde vormToegestane modellen en providers, budgetten, rate limits, vervaldatum.Gatewaysleutels met allowlists, providerlijsten, uitgavenlimieten, niveaus voor verzoeksnelheid, IP-bereiken, rotatie.
Hiërarchische budgettenzelfde vormOver virtuele sleutels, teams en klanten.Over organisatie, project, lid, sleutel en eindklant, ook bij gelijktijdige verzoeken.
Fallbacks en retrieszelfde vormfallbacks en backoff voor nieuwe pogingen per provider.fallbacks, en routes met faalregels per type.
Load balancing over sleutelszelfde vormOver providersleutels; adaptief op Enterprise.Gespreid over de sleutels van een provider, standby-sleutels als laatste; gewogen routes.
Semantische cachingandersExact en semantisch, op je eigen vector store.Alleen exact-match, gehost.
ObservabilityandersPrometheus-metrics, OTel-tracing, verzoeklogs.Verzoeklog en traces met geschatte kosten, exports, spans naar je OpenTelemetry-collector. Geen Prometheus-endpoint.
Guardrails, SSO, auditlogszelfde vormEnterprise-tier.Guardrails op de plannen die ze bevatten; SSO en SCIM vanaf Business; een auditlog.
PluginsnietsEigen Go-plugins in het verzoekpad.Niets. INFRO voert je code niet uit.
Zelf hostenandersApache 2.0, overal.Gehost. Zelf gehost of hybride is een enterprise-overeenkomst.Enterprise — Beschikbaar via een enterprise-overeenkomst, niet via selfservice.

Onze lezing van de gepubliceerde documentatie van Bifrost, geen proefperiode of benchmark. Als we iets verkeerd hebben gelezen, laat het ons weten en we passen de rij aan.

Wat INFRO niet doet

  • Draaien in je netwerk zonder enterprise-overeenkomst, of onder een open-sourcelicentie.
  • Semantische caching, sessieaffiniteit, plugins, asynchrone inferencejobs.
  • Een Prometheus-metrics-endpoint.

Wat niet meekomt

  • Logs in je Bifrost-logstore. Er is geen importfunctie.
  • Virtuele sleutels. Geef INFRO-gatewaysleutels uit en laat aanroepers overstappen.

Vragen

Houd ik mijn provideraccounts?
Ja. Ze worden INFRO-verbindingen en blijven je rechtstreeks factureren. INFRO voegt 0% toe aan modeluitgaven.
Werkt het veld `fallbacks` nog?
Ja. INFRO neemt fallbacks aan als lijst van maximaal 5 model-ID's.
Kan INFRO op onze infrastructuur draaien?
Alleen onder een enterprise-overeenkomst. De plannen zijn gehost.

Overstappen met ons, of zelf

Het migratieprogramma brengt je Bifrost-setup in een gesprek in kaart naar INFRO-verbindingen, -routes en -budgetten en verhuist de eerste service samen met je. Je providers blijven je rechtstreeks factureren; INFRO is een abonnement en voegt 0% toe aan modeluitgaven.

Bronnen

Elke uitspraak op deze pagina over Bifrost komt uit een van deze bronnen, gelezen op 19 oktober 2026. Niets is afgeleid uit een proefperiode, een benchmark of een gesprek.