Aller au contenu

Guides de migrationDepuis Bifrost

Depuis une passerelle Bifrost que vous exploitez

Bifrost est une passerelle open source en Go que vous déployez vous-même, avec des clés virtuelles, des budgets, des replis et du cache, et un niveau Enterprise pour les garde-fous, le SSO et le clustering. INFRO couvre la même gouvernance sous forme de service hébergé. La requête change à peine ; ce qui change, c'est que personne dans votre équipe n'exploite la passerelle.

Passerelle open source (Apache 2.0) en Go, de Maxim ; auto-hébergée, avec une offre Enterprise sous licence

Les comptes INFRO sont en libre-service. Le catalogue, la documentation et le contrat d'API sont publics, la passerelle est déployée, et tout ce qui va au-delà de la v1 est marqué Plus tard. Offres et essai

Où en sont les choses

Licence

Apache 2.0, par Maxim. Les garde-fous, la répartition de charge adaptative, le SSO, le RBAC, les journaux d'audit et le clustering font partie d'un niveau Enterprise sous licence commerciale.

Le compte de qui sert la requête

Vous. Les clés de fournisseur se trouvent dans votre propre déploiement Bifrost.

La gouvernance est facultative

Sans application stricte activée, une requête sans clé virtuelle passe sans gouvernance. Sur INFRO, chaque requête exige une clé de passerelle.

Bifrost est rapide, ouvert et c'est vous qui l'exploitez. Gardez-le si l'un de ces points s'applique.

  • La passerelle doit s'exécuter dans votre réseau, dans un VPC ou en réseau isolé.
  • Vous utilisez le cache sémantique, l'affinité de session, les plugins Go ou les tâches d'inférence asynchrones.
  • Vous exportez vers Prometheus ou Datadog avec des dimensions par requête (x-bf-dim-*).
  • Vous appelez des fournisseurs qu'INFRO ne connecte pas, ou Ollama sur un portable.

Les modifications, une ligne chacune. Tout ce qui n'est pas listé ici reste tel quel.

 BifrostINFRO
URL de basehttp://localhost:8080/openai ou votre déploiement.https://api.infro.io/v1
CléUne clé virtuelle (sk-bf-*) dans x-bf-vk ou Authorization.Une clé de passerelle INFRO dans Authorization: Bearer.
ID du modèleopenai/gpt-5.6-terra, vertex/gemini-3.8-flash, azure/gpt-prod.openai/gpt-5.6-terra, google/gemini-3.8-flash ; le fournisseur est choisi par vos connexions ou routing.providers.
En-têtes et champsfallbacks, x-bf-cache-*, x-bf-dim-*, x-request-id.fallbacks, cache, metadata.tags, X-INFRO-Trace-Id.

Avant · Bifrost

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "http://localhost:8080/openai",
  apiKey: process.env.BIFROST_VIRTUAL_KEY,
  defaultHeaders: { "x-bf-dim-feature": "chat" },
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
  // @ts-expect-error Bifrost extension
  fallbacks: ["anthropic/claude-sonnet-5.5"],
});

Après · INFRO

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
  // @ts-expect-error INFRO extensions
  fallbacks: ["anthropic/claude-sonnet-5.5"],
  metadata: { tags: { feature: "chat" } },
});

Préfixes de fournisseurs

L'identifiant de modèle d'INFRO nomme l'éditeur, pas l'hébergeur : google/gemini-3.8-flash, qu'il tourne sur Google AI ou sur Vertex. Celle de vos connexions qui le sert est déterminée par vos connexions, une route ou routing.providers.

Même champ `fallbacks`

Les deux acceptent une liste d'identifiants de modèle. Ceux d'INFRO sont essayés après l'échec de toutes les connexions pour model, jusqu'à 5.

Les dimensions deviennent des tags

Les en-têtes x-bf-dim-* deviennent des clés sous metadata.tags, regroupées dans l'usage et filtrées dans le journal des requêtes.

Les objets de Bifrost face à ceux de INFRO, d'après la documentation publique de Bifrost lue le 19 octobre 2026 et vérifiés par rapport à ce que la passerelle implémente. Une ligne indique que INFRO n'a rien.

BifrostCe que cela y faitDans INFRO
Clés virtuellesmême formeModèles et fournisseurs autorisés, budgets, limites de débit, expiration.Des clés de passerelle avec listes d'autorisation, listes de fournisseurs, limites de dépenses, paliers de débit de requêtes, plages IP, renouvellement.
Budgets hiérarchiquesmême formeEntre clés virtuelles, équipes et clients.Au niveau de l'organisation, du projet, du membre, de la clé et du client final, tenus même en concurrence.
Replis et relancesmême formefallbacks et délai d'attente progressif des nouvelles tentatives par fournisseur.fallbacks, et routes avec règles d'échec par type.
Répartition de charge entre clésmême formeEntre clés fournisseur ; adaptatif sur Enterprise.Réparti entre les clés d'un fournisseur, clés de secours en dernier ; routes pondérées.
Cache sémantiquedifférentExact et sémantique, sur votre propre vector store.Correspondance exacte uniquement, hébergé.
ObservabilitédifférentMétriques Prometheus, traçage OTel, journaux de requêtes.Journal des requêtes et traces avec coût estimé, exports, spans vers votre collecteur OpenTelemetry. Pas d'endpoint Prometheus.
Garde-fous, SSO, journaux d'auditmême formeNiveau Enterprise.Garde-fous sur les offres qui les incluent ; SSO et SCIM à partir de Business ; un journal d'audit.
PluginsrienPlugins Go personnalisés dans le chemin de la requête.Rien. INFRO n'exécute pas votre code.
Auto-hébergementdifférentApache 2.0, n'importe où.Hébergé. L'auto-hébergé ou l'hybride relève d'un contrat entreprise.Enterprise — Disponible dans le cadre d'un contrat Enterprise plutôt qu'en libre-service.

Notre lecture de la documentation publiée par Bifrost, pas un essai ni un benchmark. Si nous avons mal lu quelque chose, dites-le-nous et nous corrigerons la ligne.

Ce que INFRO ne fait pas

  • Exécuter dans votre réseau sans accord Enterprise, ou sous licence open source.
  • Cache sémantique, affinité de session, plugins, tâches d'inférence asynchrones.
  • Un endpoint de métriques Prometheus.

Ce qui n'est pas repris

  • Les journaux dans votre stockage de journaux Bifrost. Il n'y a pas d'outil d'import.
  • Clés virtuelles. Émettez des clés de passerelle INFRO et basculez-y les appelants.

Questions

Est-ce que je garde mes comptes fournisseurs ?
Oui. Ils deviennent des connexions INFRO et continuent de vous facturer directement. INFRO ajoute 0 % aux dépenses de modèles.
Le champ `fallbacks` fonctionne-t-il toujours ?
Oui. INFRO accepte fallbacks sous forme de liste de 5 identifiants de modèles au plus.
INFRO peut-il fonctionner sur notre infrastructure ?
Uniquement sous un accord Enterprise. Les offres sont hébergées.

Migrez avec nous, ou seul

Le programme de migration transpose votre configuration Bifrost en connexions, routes et budgets INFRO lors d'un appel, et migre le premier service avec vous. Vos fournisseurs continuent de vous facturer directement ; INFRO est un abonnement et ajoute 0 % aux dépenses de modèles.

Essai de 14 jours Réserver une session de migrationINFRO vs BifrostLire le démarrage rapide

Sources

Chaque affirmation de cette page sur Bifrost provient de l'une de ces sources, lues le 19 octobre 2026. Rien n'est déduit d'un essai, d'un benchmark ou d'une conversation.