Zum Inhalt springen

MigrationsleitfädenVon Bifrost

Von einem selbst betriebenen Bifrost-Gateway

Bifrost ist ein Open-Source-Gateway in Go, das Sie selbst deployen, mit virtuellen Schlüsseln, Budgets, Fallbacks und Caching sowie einer Enterprise-Stufe für Guardrails, SSO und Clustering. INFRO deckt dieselbe Governance als gehosteter Dienst ab. Die Anfrage ändert sich kaum; neu ist, dass niemand in Ihrem Team das Gateway betreibt.

Open-Source-Go-Gateway (Apache 2.0) von Maxim; selbst gehostet, mit lizenzierter Enterprise-Stufe

INFRO-Konten sind per Selbstregistrierung verfügbar. Katalog, Dokumentation und API-Vertrag sind öffentlich, das Gateway ist bereitgestellt, und alles über v1 hinaus ist als „Später“ markiert. Tarife und Testphase

Wo die Dinge stehen

Lizenz

Apache 2.0, von Maxim. Guardrails, adaptives Load Balancing, SSO, RBAC, Audit-Logs und Clustering sind in einer kommerziell lizenzierten Enterprise-Stufe.

Über wessen Konto die Anfrage läuft

Ihre. Anbieterschlüssel liegen in Ihrem eigenen Bifrost-Deployment.

Governance ist optional

Ohne eingeschaltete Durchsetzung läuft eine Anfrage ohne virtuellen Schlüssel ohne Governance durch. Bei INFRO braucht jede Anfrage einen Gateway-Schlüssel.

Bifrost ist schnell, offen und von Ihnen betrieben. Behalten Sie es, wenn einer dieser Punkte zutrifft.

  • Das Gateway muss in Ihrem Netzwerk laufen, in einer VPC oder im Air-Gap.
  • Sie nutzen semantisches Caching, Session Affinity, Go-Plugins oder asynchrone Inferenz-Jobs.
  • Sie exportieren nach Prometheus oder Datadog mit Dimensionen pro Anfrage (x-bf-dim-*).
  • Sie rufen Anbieter auf, die INFRO nicht verbindet, oder Ollama auf einem Laptop.

Die Änderungen, je eine Zeile. Alles, was hier nicht aufgeführt ist, bleibt, wie es ist.

 BifrostINFRO
Basis-URLhttp://localhost:8080/openai oder Ihr Deployment.https://api.infro.io/v1
SchlüsselEin virtueller Schlüssel (sk-bf-*) in x-bf-vk oder Authorization.Ein INFRO-Gateway-Schlüssel in Authorization: Bearer.
Modell-IDopenai/gpt-5.6-terra, vertex/gemini-3.8-flash, azure/gpt-prod.openai/gpt-5.6-terra, google/gemini-3.8-flash; der Anbieter wird durch Ihre Verbindungen oder routing.providers gewählt.
Header und Felderfallbacks, x-bf-cache-*, x-bf-dim-*, x-request-id.fallbacks, cache, metadata.tags, X-INFRO-Trace-Id.

Vorher · Bifrost

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "http://localhost:8080/openai",
  apiKey: process.env.BIFROST_VIRTUAL_KEY,
  defaultHeaders: { "x-bf-dim-feature": "chat" },
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
  // @ts-expect-error Bifrost extension
  fallbacks: ["anthropic/claude-sonnet-5.5"],
});

Nachher · INFRO

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
  // @ts-expect-error INFRO extensions
  fallbacks: ["anthropic/claude-sonnet-5.5"],
  metadata: { tags: { feature: "chat" } },
});

Anbieterpräfixe

Die Modell-ID von INFRO nennt den Hersteller, nicht den Host: google/gemini-3.8-flash, ob es auf Google AI oder Vertex läuft. Welche Ihrer Verbindungen es bedient, entscheiden Ihre Verbindungen, eine Route oder routing.providers.

Dasselbe Feld `fallbacks`

Beide nehmen eine Liste von Modell-IDs. Die von INFRO werden versucht, nachdem jede Verbindung für model fehlgeschlagen ist, bis zu 5.

Dimensionen werden zu Tags

x-bf-dim-*-Header werden zu Schlüsseln unter metadata.tags, in der Nutzung gruppiert und im Anfrageprotokoll filterbar.

Die Objekte von Bifrost gegenüber denen von INFRO, anhand der öffentlichen Dokumentation von Bifrost, gelesen am 19. Oktober 2026, und geprüft anhand dessen, was das Gateway implementiert. Eine Zeile besagt, dass INFRO nichts hat.

BifrostWas es dort tutIn INFRO
Virtuelle Schlüsselgleiche FormErlaubte Modelle und Anbieter, Budgets, Rate Limits, Ablaufdatum.Gateway-Schlüssel mit Freigabelisten, Anbieterlisten, Ausgabenlimits, Anfrageraten-Stufen, IP-Bereichen, Rotation.
Hierarchische Budgetsgleiche FormÜber virtuelle Schlüssel, Teams und Kunden.Über Organisation, Projekt, Mitglied, Schlüssel und Endkunde, auch bei parallelen Anfragen.
Fallbacks und Wiederholungengleiche Formfallbacks und Retry-Backoff pro Anbieter.fallbacks und Routen mit Fehlerregeln pro Anbietertyp.
Load Balancing über Schlüsselgleiche FormÜber Anbieterschlüssel; adaptiv in Enterprise.Verteilt über die Schlüssel eines Anbieters, Standby-Schlüssel zuletzt; gewichtete Routen.
Semantisches CachingandersExakt und semantisch, in Ihrem eigenen Vector Store.Nur exakte Treffer, gehostet.
ObservabilityandersPrometheus-Metriken, OTel-Tracing, Anfrageprotokolle.Anfrageprotokoll und Traces mit geschätzten Kosten, Exporte, Spans an Ihren OpenTelemetry-Collector. Kein Prometheus-Endpunkt.
Guardrails, SSO, Audit-Logsgleiche FormEnterprise-Stufe.Guardrails in den Tarifen, die sie enthalten; SSO und SCIM ab Business; ein Audit-Log.
PluginsnichtsEigene Go-Plugins im Anfragepfad.Nichts. INFRO führt Ihren Code nicht aus.
SelbsthostingandersApache 2.0, überall.Gehostet. Selbst gehostet oder hybrid ist ein Enterprise-Vertrag.Enterprise — Über einen Enterprise-Vertrag statt per Selbstregistrierung verfügbar.

Unsere Lesart der veröffentlichten Dokumentation von Bifrost, kein Test und kein Benchmark. Wenn wir etwas falsch gelesen haben, sagen Sie es uns, und wir korrigieren die Zeile.

Was INFRO nicht tut

  • In Ihrem Netzwerk ohne Enterprise-Vereinbarung oder unter einer Open-Source-Lizenz betreiben.
  • Semantisches Caching, Session Affinity, Plugins, asynchrone Inferenz-Jobs.
  • Ein Prometheus-Metrik-Endpunkt.

Was nicht übernommen wird

  • Logs in Ihrem Bifrost-Log-Store. Es gibt keinen Import.
  • Virtuelle Schlüssel. Stellen Sie INFRO-Gateway-Schlüssel aus und stellen Sie die Aufrufer um.

Fragen

Behalte ich meine Anbieterkonten?
Ja. Sie werden zu INFRO-Verbindungen und rechnen weiter direkt mit Ihnen ab. INFRO schlägt 0 % auf Modellausgaben auf.
Funktioniert das Feld `fallbacks` weiterhin?
Ja. INFRO nimmt fallbacks als Liste von bis zu 5 Modell-IDs.
Kann INFRO auf unserer Infrastruktur laufen?
Nur im Rahmen einer Enterprise-Vereinbarung. Die Tarife sind gehostet.

Wechseln Sie mit uns oder auf eigene Faust

Das Migrationsprogramm überträgt Ihr Bifrost-Setup in einem Gespräch auf INFRO-Verbindungen, -Routen und -Budgets und zieht den ersten Dienst gemeinsam mit Ihnen um. Ihre Anbieter rechnen weiterhin direkt mit Ihnen ab; INFRO ist ein Abonnement und schlägt 0 % auf Modellausgaben auf.

14 Tage testen Migrationstermin buchenINFRO vs. BifrostQuickstart lesen

Quellen

Jede Aussage auf dieser Seite über Bifrost stammt aus einer dieser Quellen, gelesen am 19. Oktober 2026. Nichts ist aus einem Test, einem Benchmark oder einem Gespräch abgeleitet.