Vai al contenuto

Guide alla migrazioneDa Amazon Bedrock

Da solo Amazon Bedrock a Bedrock come uno dei tuoi provider

Bedrock mantiene l'inferenza all'interno del tuo account AWS, sotto IAM e sulla tua fattura AWS. INFRO non cambia questo: chiama Bedrock con una credenziale del tuo account. Ciò che aggiunge è routing e failover tra Bedrock e gli altri tuoi provider, budget che rifiutano prima della chiamata e costo per richiesta per progetto, chiave e utente. Questa pagina è precisa su cosa INFRO può instradare su Bedrock oggi, perché non è tutto.

Servizio AWS; chiavi API Bedrock ed endpoint compatibili con OpenAI aggiunti accanto a Converse

Gli account INFRO sono self-service. Il catalogo, la documentazione e il contratto dell'API sono pubblici, il gateway è in produzione e tutto ciò che va oltre la v1 è indicato come "Più avanti". Piani e prova

A che punto siamo

Cosa ha aggiunto Bedrock

Chiavi API Bedrock (bearer token; a breve termine fino a 12 ore, o a lungo termine) accanto a SigV4, e Chat Completions e Responses compatibili con OpenAI su bedrock-runtime.{region}.amazonaws.com/openai/v1, che AWS indica come endpoint consigliato per le nuove applicazioni.

Cosa chiama INFRO

Quell'endpoint compatibile con OpenAI, con una chiave API Bedrock a lungo termine e una regione. Serve i modelli OpenAI, xAI, Moonshot e MiniMax presenti lì. Ogni modello è indicato nella mappa dei modelli della connessione, perché gli id Bedrock sono regionali (global.openai.gpt-5.6-sol).

Cosa INFRO non chiama

Converse e InvokeModel. Claude, Llama, Nova e Cohere su Bedrock sono serviti lì, quindi oggi INFRO non può instradarli su Bedrock. Claude tramite INFRO arriva da una connessione Anthropic o Vertex AI.

Per molti team AWS, Bedrock da solo è la risposta giusta. Resta se vale una di queste condizioni.

  • Il tuo traffico è Claude, Llama, Nova o Cohere su Bedrock, e deve restare su AWS. Oggi INFRO non può instradarli su Bedrock.
  • Il tuo team di sicurezza richiede solo ruoli IAM o credenziali a breve termine. La connessione Bedrock di INFRO accetta una chiave API Bedrock a lungo termine, che AWS descrive come destinata all'esplorazione e sconsiglia in produzione.
  • Dipendi da Bedrock Guardrails, prompt router, gestione dei prompt, Provisioned Throughput o application inference profile per l'allocazione dei costi. INFRO ha i propri guardrail e le proprie route, e nessuno di quegli oggetti Bedrock.
  • L'inferenza deve restare in una regione AWS specifica e nulla può uscire da AWS. INFRO gira sulla rete di Cloudflare tra la tua app e Bedrock; la residenza dei dati è nella roadmap.

Le modifiche, una riga ciascuna. Tutto ciò che non è elencato qui resta com'è.

 Amazon BedrockINFRO
URL di basebedrock-runtime.{region}.amazonaws.com (Converse) o il suo /openai/v1.https://api.infro.io/v1
CredenzialeSigV4 da IAM, o una chiave API Bedrock.Una chiave del gateway INFRO nella tua app. INFRO detiene una chiave API Bedrock a lungo termine per il tuo account, sigillata, limitata via IAM a ciò che consenti.
Id del modelloglobal.openai.gpt-5.6-sol, openai.gpt-oss-120b-1:0.openai/gpt-5.6-sol, openai/gpt-oss-120b; la connessione mappa ciascuno all'id Bedrock. aws-bedrock/<bedrock id> raggiunge un id che il catalogo non contiene.
CampirequestMetadata, guardrailConfig, header X-Amzn-Bedrock-Guardrail*.metadata { user_id, session_id, tags }; guardrail INFRO configurati nella console.

Prima · Bedrock, compatibile con OpenAI

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://bedrock-runtime.us-east-1.amazonaws.com/openai/v1",
    api_key=os.environ["AWS_BEARER_TOKEN_BEDROCK"],
)

client.chat.completions.create(
    model="global.openai.gpt-5.6-sol",
    messages=[{"role": "user", "content": "Hello"}],
)

Dopo · INFRO

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.infro.io/v1",
    api_key=os.environ["INFRO_API_KEY"],
)

client.chat.completions.create(
    model="openai/gpt-5.6-sol",
    messages=[{"role": "user", "content": "Hello"}],
    extra_body={
        # Only your Bedrock connection may serve this request
        "routing": {"providers": {"allow": ["aws-bedrock"]}},
        "metadata": {"user_id": "cust_123"},
    },
)

Chiamanti Converse

Se il tuo codice usa Converse o InvokeModel tramite boto3 o l'AWS SDK, non c'è un passaggio da due righe: la forma della richiesta cambia in Chat Completions. Per Claude, mantieni dirette quelle chiamate, oppure collega Anthropic o Vertex AI e chiama /v1/messages.

Failover tra cloud

Una route può provare GPT prima su Bedrock e poi su OpenAI o Azure OpenAI, ciascuno sul tuo account. routing.providers mantiene una richiesta su Bedrock quando deve restarci.

I costi restano nella fatturazione AWS

INFRO stima ogni richiesta dal tuo prezzo negoziato o dal prezzo di listino. Non legge la fatturazione AWS, quindi per Bedrock non esiste una cifra riconciliata; la tua fattura AWS resta il riferimento.

Gli oggetti di Amazon Bedrock a confronto con quelli di INFRO, dalla documentazione pubblica di Amazon Bedrock letta il 19 ottobre 2026 e verificati con ciò che il gateway implementa. Due righe dicono che INFRO non ha nulla.

Amazon BedrockCosa fa lìIn INFRO
Account e quote Bedrockstessa formaIl tuo account AWS, quote di token al minuto per modello.Invariato: INFRO chiama il tuo account e si applicano le tue quote. Un 429 da Bedrock segue la regola di errore della route.
IAM e SigV4diversoRuoli, policy, credenziali a breve termine.Una chiave API Bedrock a lungo termine per connessione. Nessuna assunzione di ruolo IAM, nessuna SigV4.
Converse e InvokeModelnienteLe API native di Bedrock, usate per Claude, Llama, Nova e Cohere.Non chiamato. INFRO instrada solo i modelli compatibili con OpenAI di Bedrock.
Inference profile cross-RegiondiversoI profili us., eu., global. instradano all'interno di AWS.Indicati nella mappa dei modelli della connessione; la regione la sceglie ancora Bedrock. INFRO aggiunge il failover verso altri provider.
Application inference profile e `requestMetadata`diversoTag e metadati per l'allocazione dei costi e il filtro dei log.metadata e progetti: costo per richiesta per progetto, chiave, utente e tag, stimato.
Bedrock GuardrailsdiversoPolicy su contenuti, argomenti, parole, PII e grounding per id e versione.I guardrail di INFRO: regole a pattern e controlli con modelli decisionali. Nessuna impostazione di Bedrock Guardrails.
Intelligent prompt routingdiversoUn prompt router sceglie tra due modelli della stessa famiglia.Il classificatore di prompt di una route sceglie una classe di destinazioni con un modello decisionale scelto da te.
BudgetdiversoNessun limite di spesa per richiesta; AWS Budgets avvisa sulla fattura.Budget che rifiutano al raggiungimento del tetto con 402 prima della chiamata, per organizzazione, progetto, membro, chiave e cliente finale.
Provisioned Throughput, gestione dei promptnienteCapacità riservata e versioni dei prompt archiviate, richiamate tramite ARN.Nulla.
Riconciliazione dei costidiversoCost Explorer e la fattura AWS.Solo stime per Bedrock; la riconciliazione legge le API dei costi di OpenAI e Anthropic, non la fatturazione AWS.

È la nostra lettura della documentazione pubblicata da Amazon Bedrock, non una prova o un benchmark. Se abbiamo letto male qualcosa, diccelo e correggeremo la riga.

Cosa non fa INFRO

  • Instradare Claude, Llama, Nova o Cohere su Bedrock (richiedono Converse).
  • Usare ruoli IAM, SigV4 o chiavi Bedrock a breve termine.
  • Applicare Bedrock Guardrails, prompt router, gestione dei prompt o Provisioned Throughput.
  • Riconciliare con la fatturazione AWS.
  • Mantenere il traffico all'interno di AWS; INFRO gira sulla rete di Cloudflare.

Cosa non si porta con sé

  • Metriche CloudWatch e log di invocazione dei modelli precedenti al passaggio; restano in AWS.
  • Configurazione di guardrail e prompt router. Ricrea ciò che INFRO supporta nei suoi guardrail e nelle sue route.

Domande

INFRO può instradare Claude su Bedrock?
Non oggi. INFRO chiama l'endpoint compatibile con OpenAI di Bedrock, e Claude su Bedrock è servito tramite Converse. Instrada Claude tramite una connessione Anthropic o Vertex AI, oppure mantieni dirette quelle chiamate.
Chi mi fattura l'uso di Bedrock?
AWS, sul tuo account. INFRO è un abbonamento e aggiunge lo 0% alla spesa per i modelli.
Di quale credenziale ha bisogno INFRO?
Una chiave API Bedrock a lungo termine e la regione, sigillate in INFRO. Limitala con IAM ai modelli che instradi.

Migra con noi, o da solo

Il programma di migrazione mappa in una call la tua configurazione Amazon Bedrock su connessioni, route e budget di INFRO e migra con te il primo servizio. I tuoi provider continuano a fatturarti direttamente; INFRO è un abbonamento e aggiunge 0% alla spesa per i modelli.

Prova di 14 giorni Prenota una sessione di migrazioneINFRO vs Amazon BedrockLeggi il quickstart

Fonti

Ogni affermazione su Amazon Bedrock in questa pagina proviene da una di queste fonti, lette il 19 ottobre 2026. Nulla è dedotto da una prova, un benchmark o una conversazione.