Vai al contenuto

Guide alla migrazioneDa Bifrost

Da un gateway Bifrost gestito da te

Bifrost è un gateway open source in Go che distribuisci tu, con chiavi virtuali, budget, fallback e caching, e un tier Enterprise per guardrail, SSO e clustering. INFRO copre la stessa governance come servizio ospitato. La richiesta cambia appena; ciò che cambia è che nessuno nel tuo team deve gestire il gateway.

Gateway Go open source (Apache 2.0) di Maxim; self-hosted, con un livello Enterprise con licenza

Gli account INFRO sono self-service. Il catalogo, la documentazione e il contratto dell'API sono pubblici, il gateway è in produzione e tutto ciò che va oltre la v1 è indicato come "Più avanti". Piani e prova

A che punto siamo

Licenza

Apache 2.0, di Maxim. Guardrail, bilanciamento del carico adattivo, SSO, RBAC, log di audit e clustering sono in un tier Enterprise con licenza commerciale.

Su quale account viene servita la richiesta

Tue. Le chiavi provider stanno nel tuo deployment Bifrost.

La governance è facoltativa

Senza l'applicazione attivata, una richiesta senza chiave virtuale passa senza governance. Su INFRO ogni richiesta richiede una chiave del gateway.

Bifrost è veloce, aperto e lo gestisci tu. Tienilo se vale uno di questi casi.

  • Il gateway deve funzionare all'interno della tua rete, in una VPC o in ambiente isolato.
  • Usi la cache semantica, l'affinità di sessione, plugin Go o job di inferenza asincroni.
  • Esporti su Prometheus o Datadog con dimensioni per richiesta (x-bf-dim-*).
  • Chiami provider che INFRO non collega, oppure Ollama su un portatile.

Le modifiche, una riga ciascuna. Tutto ciò che non è elencato qui resta com'è.

 BifrostINFRO
URL di basehttp://localhost:8080/openai o il tuo deployment.https://api.infro.io/v1
ChiaveUna chiave virtuale (sk-bf-*) in x-bf-vk o Authorization.Una chiave del gateway INFRO in Authorization: Bearer.
Id del modelloopenai/gpt-5.6-terra, vertex/gemini-3.8-flash, azure/gpt-prod.openai/gpt-5.6-terra, google/gemini-3.8-flash; il provider è scelto dalle tue connessioni o da routing.providers.
Header e campifallbacks, x-bf-cache-*, x-bf-dim-*, x-request-id.fallbacks, cache, metadata.tags, X-INFRO-Trace-Id.

Prima · Bifrost

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "http://localhost:8080/openai",
  apiKey: process.env.BIFROST_VIRTUAL_KEY,
  defaultHeaders: { "x-bf-dim-feature": "chat" },
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
  // @ts-expect-error Bifrost extension
  fallbacks: ["anthropic/claude-sonnet-5.5"],
});

Dopo · INFRO

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
  // @ts-expect-error INFRO extensions
  fallbacks: ["anthropic/claude-sonnet-5.5"],
  metadata: { tags: { feature: "chat" } },
});

Prefissi dei provider

L'id del modello in INFRO indica il vendor, non l'host: google/gemini-3.8-flash che giri su Google AI o su Vertex. Quale delle tue connessioni lo serve lo decidono le tue connessioni, una route o routing.providers.

Stesso campo `fallbacks`

Entrambi accettano un elenco di id di modelli. Quelli di INFRO vengono provati dopo che ogni connessione per model ha fallito, fino a 5.

Le dimensioni diventano tag

Gli header x-bf-dim-* diventano chiavi sotto metadata.tags, raggruppate nell'utilizzo e filtrate nel log delle richieste.

Gli oggetti di Bifrost a confronto con quelli di INFRO, dalla documentazione pubblica di Bifrost letta il 19 ottobre 2026 e verificati con ciò che il gateway implementa. Una riga dice che INFRO non ha nulla.

BifrostCosa fa lìIn INFRO
Chiavi virtualistessa formaModelli e provider consentiti, budget, rate limit, scadenza.Chiavi del gateway con liste di autorizzazione, elenchi di provider, limiti di spesa, livelli di frequenza delle richieste, intervalli IP, rotazione.
Budget gerarchicistessa formaTra chiavi virtuali, team e clienti.Su organizzazione, progetto, membro, chiave e cliente finale, rispettati anche in concorrenza.
Fallback e retrystessa formafallbacks e backoff dei tentativi per provider.fallbacks e route con regole di errore per tipo.
Bilanciamento del carico tra chiavistessa formaTra le chiavi dei provider; adattivo su Enterprise.Distribuito sulle chiavi di un provider, con le chiavi di riserva per ultime; route ponderate.
Cache semanticadiversoEsatto e semantico, sul tuo vector store.Solo a corrispondenza esatta, ospitata.
OsservabilitàdiversoMetriche Prometheus, tracing OTel, log delle richieste.Log delle richieste e trace con costo stimato, esportazioni, span verso il tuo collector OpenTelemetry. Nessun endpoint Prometheus.
Guardrail, SSO, log di auditstessa formaTier Enterprise.Guardrail sui piani che li includono; SSO e SCIM da Business; un log di audit.
PluginnientePlugin Go personalizzati nel percorso della richiesta.Nulla. INFRO non esegue il tuo codice.
Self-hostingdiversoApache 2.0, ovunque.Hosted. Self-hosted o ibrido è un accordo enterprise.Enterprise — Disponibile con un contratto enterprise anziché in self-service.

È la nostra lettura della documentazione pubblicata da Bifrost, non una prova o un benchmark. Se abbiamo letto male qualcosa, diccelo e correggeremo la riga.

Cosa non fa INFRO

  • Funzionare nella tua rete senza un accordo enterprise, o con una licenza open source.
  • Cache semantica, affinità di sessione, plugin, job di inferenza asincroni.
  • Un endpoint di metriche Prometheus.

Cosa non si porta con sé

  • Log nel tuo log store di Bifrost. Non c'è uno strumento di importazione.
  • Chiavi virtuali. Emetti chiavi del gateway INFRO e passa gradualmente i chiamanti.

Domande

Mantengo i miei account dei provider?
Sì. Diventano connessioni INFRO e continuano a fatturarti direttamente. INFRO aggiunge lo 0% alla spesa per i modelli.
Il campo `fallbacks` funziona ancora?
Sì. INFRO accetta fallbacks come elenco di fino a 5 id di modello.
INFRO può girare sulla nostra infrastruttura?
Solo con un accordo enterprise. I piani sono ospitati.

Migra con noi, o da solo

Il programma di migrazione mappa in una call la tua configurazione Bifrost su connessioni, route e budget di INFRO e migra con te il primo servizio. I tuoi provider continuano a fatturarti direttamente; INFRO è un abbonamento e aggiunge 0% alla spesa per i modelli.

Prova di 14 giorni Prenota una sessione di migrazioneINFRO vs BifrostLeggi il quickstart

Fonti

Ogni affermazione su Bifrost in questa pagina proviene da una di queste fonti, lette il 19 ottobre 2026. Nulla è dedotto da una prova, un benchmark o una conversazione.