Open-Source-KI-Gateway zum Selbsthosten
INFRO vs Bifrost
Bifrost ist das Open-Source-KI-Gateway von Maxim AI, unter Apache-2.0 lizenziert und für Selbsthosting gebaut. Die Open-Source-Edition enthält mehr, als die meisten Gateways in einen Bezahltarif legen: virtuelle Schlüssel mit Dollar-Budgets und Ratenlimits auf Schlüssel-, Team- und Kundenebene, Fallbacks und gewichtetes Load Balancing über 20+ Anbieter, semantisches Caching, ein MCP-Gateway mit Tool-Freigabelisten pro Schlüssel, OpenTelemetry und Preis-Overrides für Ihre eigenen Preise. Guardrails, SSO, rollenbasierter Zugriff, Audit-Logs, Clustering und In-VPC-Deployment gehören zur Enterprise-Edition. Wenn Sie ein leistungsfähiges Gateway wollen, das Sie ohne Lizenzkosten selbst betreiben, ist es eine ernsthafte Antwort.
- Sie wollen das Gateway in Ihrer eigenen Infrastruktur aus Open-Source-Code betreiben, ohne Herstellervertrag. Genau dafür ist Bifrost gemacht; die selbst gehosteten und hybriden Deployments von INFRO gibt es nur mit einer Enterprise-Vereinbarung, und sein Gateway ist nicht Open Source.
- Sie wollen ohne Lizenzkosten starten. Die Open-Source-Edition von Bifrost enthält Budgets, virtuelle Schlüssel, semantisches Caching und ein MCP-Gateway; der Einstiegstarif von INFRO ist kostenpflichtig, mit Testphase.
- Semantisches Caching ist für Ihren Traffic wichtig. Bifrost liefert ähnliche Prompts aus seinem Cache; der Antwort-Cache von INFRO beantwortet nur exakte Wiederholungen von Chat Completions.
- Sie wollen den Code lesen, patchen oder erweitern – Go- oder WASM-Plugins im Anfragepfad –, statt einen Dienst zu konfigurieren.
Dieser Abschnitt ist keine Höflichkeit. Wenn einer dieser Punkte auf Sie zutrifft, wählen Sie Bifrost – ein Kunde, der auf unseren Rat hin die falsche Schicht einführt, ist schlechter für uns als einer, den wir nie hatten.
Wo die beiden sich tatsächlich unterscheiden.
- Software, die Sie betreiben, oder ein Dienst, den Sie nutzen
- Bifrost betreiben Sie selbst: Deployment, Upgrades, Skalierung und die Bereitschaft für eine Komponente, die jede Modellanfrage durchläuft. Die Enterprise-Edition ergänzt Clustering und In-VPC-Deployment; weder die Dokumentation noch die Preisseite beschreibt einen gehosteten Dienst. Für ein Plattformteam, das solche Infrastruktur ohnehin betreibt, ist das der richtige Kompromiss. Die Tarife von INFRO sind gehostet, es gibt also nichts bereitzustellen, und das Spiegelbild gilt ebenso: Ihre Anfragen laufen über unseren Dienst statt über Ihren, es sei denn, eine Enterprise-Vereinbarung bringt INFRO in Ihre eigene Infrastruktur.
- Die Schätzung, und dann die Zahl des Anbieters
- Beide Produkte schätzen die Kosten aus einem Preiskatalog, und beide übernehmen Ihre eigenen Preise – Bifrost über Preis-Overrides, die von global bis zu einem einzelnen virtuellen Schlüssel und Anbieterschlüssel eingegrenzt werden, INFRO über Preise, die ab dem Team-Tarif pro Modell und Anbietertyp gespeichert werden. Der Unterschied liegt in dem, was danach passiert. Im Business-Tarif liest INFRO die eigenen Kosten-APIs von OpenAI und Anthropic mit einer separaten Admin-Zugangsberechtigung, speichert das vom Anbieter Gemeldete neben dem von INFRO Geschätzten und benennt die Abweichung. Die Dokumentation von Bifrost beschreibt nichts Vergleichbares. Und wo kein Preis bekannt ist, unterscheiden sich die Standardverhalten: Laut Dokumentation von Bifrost kostet ein benutzerdefinierter Anbieter ohne Katalogpreis $0, bis Sie einen Override hinzufügen, während INFRO eine solche Anfrage als ohne Preisangabe erfasst und ein blockierendes Budget Traffic ohne Preisangabe ablehnt, sofern Sie ihn nicht erlauben.
- Über das Gateway hinaus
- INFRO ist ein Gateway plus die Betriebsoberfläche darum: eine Konsole, in der Finance und Teamleitungen die Ausgaben nach Projekt, Schlüssel und Endkunde lesen; eine wöchentliche Zusammenfassung und ein Monatsbericht per E-Mail an Inhaber und Finance-Mitglieder; Befunde zu Ausgabenanomalien und Drift per E-Mail und ab dem Startup-Tarif in Slack, Teams, PagerDuty oder per signiertem Webhook; Bild, Video und Audio hinter je einer Anfrageform, mit langen Renderings als Jobs mit signiertem Webhook; und INFRO Studio, ein Arbeitsbereich für Bild-, Video- und Audioarbeit auf Ihren eigenen Anbieterverbindungen, in jedem Tarif. Nichts davon ist eine Gateway-Funktion, und ein Team, das nur ein Gateway braucht, sollte dafür nicht zahlen.
- Kein Entweder-oder
- Ein Bifrost-Deployment, das Sie bereits betreiben, spricht die OpenAI-API und kann daher als OpenAI-kompatible Verbindung hinter INFRO stehen: Behalten Sie es für die Anbieter und Plugins, die nur es erreicht, und stellen Sie die Zuordnung, Budgets und den Abgleich von INFRO vor den gesamten Bestand.
Nebeneinander.
Auch unsere Spalte hat Striche. Einem Vergleich, bei dem eine Seite nur Häkchen hat, glaubt niemand, und zu Recht.
| Funktion | Bifrost | INFRO |
|---|---|---|
| Eine API über viele Anbieter | ja20+ Anbieter | jadie Anbieter, die Sie verbinden |
| Routing, Wiederholungen und Failover | ja | ja |
| Ihre eigenen Anbieterkonten | jaSie betreiben es mit Ihren Schlüsseln | japro Umgebung verbunden |
| Selbsthosting und Open Source | jaApache-2.0 | teilweisenach Vereinbarung selbst gehostet; Gateway nicht Open Source |
| Nichts bereitzustellen oder zu betreiben | neinkein gehostetes Angebot dokumentiert | jagehosteter Dienst |
| Budgets, die eine Anfrage ablehnen | ja402; virtueller Schlüssel, Team, Kunde | ja402; Organisation, Projekt, Mitglied, Schlüssel |
| Schätzungen zu Ihren eigenen Preisen | jaPreis-Overrides, neun Ebenen | japro Organisation gespeichert; Team-Tarif |
| Ein Modell ohne bekannten Preis | teilweise$0, bis ein Override hinzugefügt wird | jaals ohne Preisangabe erfasst; unter einem blockierenden Budget standardmäßig abgelehnt |
| Abgleich mit der Rechnung des Anbieters | nein | teilweiseOpenAI und Anthropic, Business-Tarif; Abweichung benannt |
| Antwort-Caching | jasemantisch | teilweiseexakte Übereinstimmung, Chat Completions |
| MCP-Gateway | jaOpen-Source-Edition; Tool-Freigabelisten pro Schlüssel | jaangeheftete Tools, Berechtigungen pro Schlüssel; Business-Tarif |
| Guardrails | teilweiseEnterprise-Edition | teilweiseChat-Muster plus Prompt-Klassifikatoren; Business-Tarif |
| Rollen, SSO und Audit-Log | teilweiseEnterprise-Edition | jaAudit in jedem Tarif; SSO und SCIM ab Business |
| Bild-, Video- und Audio-Jobs und ein Medien-Arbeitsbereich | teilweiseMedien-Anfragetypen; kein Arbeitsbereich | jaasynchrone Jobs, signierte Webhooks, INFRO Studio |
| Heute verfügbar | ja | jaSelf-Service-Anmeldung |
Unsere Lesart der öffentlichen Dokumentation jedes Produkts, Stand Oktober 2026. Wir nennen keine Preise von Wettbewerbern – sie ändern sich, und eine falsche Zahl über das Geschäft anderer ist schlimmer als keine. Halten Sie eine Zeile für falsch? Sagen Sie es uns, und wir korrigieren sie.
Rechnen Sie aus, was der Unterschied wert ist
Schätzen Sie, was Ihr aktueller Modellmix zu den Listenpreisen Ihrer Anbieter kostet und welchen Tarif er braucht, oder lassen Sie uns Ihre echte Nutzung lesen und Ihnen sagen, wo wir helfen würden und wo nicht.
Schon bei Bifrost? Lesen Sie den Migrationsleitfaden von Bifrost: der Code, der sich ändert, was übernommen wird und was nicht.