Aller au contenu

Guides de migrationDepuis Amazon Bedrock

D'Amazon Bedrock seul à Bedrock comme l'un de vos fournisseurs

Bedrock garde l'inférence dans votre compte AWS, sous IAM et sur votre facture AWS. INFRO ne change rien à cela : il appelle Bedrock avec un identifiant de votre compte. Ce qu'il ajoute, c'est le routage et le basculement entre Bedrock et vos autres fournisseurs, des budgets qui refusent avant l'appel, et le coût par requête par projet, clé et utilisateur. Cette page précise exactement ce qu'INFRO peut router sur Bedrock aujourd'hui, car c'est moins que tout.

Service AWS ; clés API Bedrock et endpoints compatibles OpenAI ajoutés à côté de Converse

Les comptes INFRO sont en libre-service. Le catalogue, la documentation et le contrat d'API sont publics, la passerelle est déployée, et tout ce qui va au-delà de la v1 est marqué Plus tard. Offres et essai

Où en sont les choses

Ce que Bedrock a ajouté

Clés API Bedrock (jetons bearer ; courte durée jusqu'à 12 heures, ou longue durée) à côté de SigV4, et Chat Completions et Responses compatibles OpenAI sur bedrock-runtime.{region}.amazonaws.com/openai/v1, qu'AWS présente comme l'endpoint recommandé pour les nouvelles applications.

Ce qu'INFRO appelle

Cet endpoint compatible OpenAI, avec une clé API Bedrock longue durée et une région. Il sert les modèles OpenAI, xAI, Moonshot et MiniMax qui s'y trouvent. Chaque modèle est nommé dans la table de correspondance de la connexion, car les identifiants Bedrock sont régionaux (global.openai.gpt-5.6-sol).

Ce qu'INFRO n'appelle pas

Converse et InvokeModel. Claude, Llama, Nova et Cohere sur Bedrock y sont servis : INFRO ne peut donc pas les router sur Bedrock aujourd'hui. Claude via INFRO passe par une connexion Anthropic ou Vertex AI.

Pour beaucoup d'équipes AWS, Bedrock seul est la bonne réponse. Restez-y si l'un de ces points s'applique.

  • Votre trafic est Claude, Llama, Nova ou Cohere sur Bedrock, et il doit rester sur AWS. INFRO ne peut pas les router sur Bedrock aujourd'hui.
  • Votre équipe sécurité n'autorise que les rôles IAM ou les identifiants de courte durée. La connexion Bedrock d'INFRO prend une clé API Bedrock longue durée, qu'AWS décrit comme destinée à l'exploration et déconseille en production.
  • Vous dépendez de Bedrock Guardrails, des prompt routers, de la gestion des prompts, de Provisioned Throughput ou des profils d'inférence d'application pour l'imputation des coûts. INFRO a ses propres garde-fous et routes, et aucun de ces objets Bedrock.
  • L'inférence doit rester dans une région AWS désignée et rien ne doit quitter AWS. INFRO s'exécute sur le réseau de Cloudflare entre votre application et Bedrock ; la résidence des données est sur la feuille de route.

Les modifications, une ligne chacune. Tout ce qui n'est pas listé ici reste tel quel.

 Amazon BedrockINFRO
URL de basebedrock-runtime.{region}.amazonaws.com (Converse) ou son /openai/v1.https://api.infro.io/v1
IdentifiantSigV4 depuis IAM, ou une clé API Bedrock.Une clé de passerelle INFRO dans votre application. INFRO détient une clé API Bedrock longue durée pour votre compte, scellée, limitée par IAM à ce que vous autorisez.
ID du modèleglobal.openai.gpt-5.6-sol, openai.gpt-oss-120b-1:0.openai/gpt-5.6-sol, openai/gpt-oss-120b ; la connexion fait correspondre chacun à l'identifiant Bedrock. aws-bedrock/<bedrock id> atteint un identifiant que le catalogue ne contient pas.
ChampsrequestMetadata, guardrailConfig, en-têtes X-Amzn-Bedrock-Guardrail*.metadata { user_id, session_id, tags } ; garde-fous INFRO configurés dans la console.

Avant · Bedrock, compatible OpenAI

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://bedrock-runtime.us-east-1.amazonaws.com/openai/v1",
    api_key=os.environ["AWS_BEARER_TOKEN_BEDROCK"],
)

client.chat.completions.create(
    model="global.openai.gpt-5.6-sol",
    messages=[{"role": "user", "content": "Hello"}],
)

Après · INFRO

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.infro.io/v1",
    api_key=os.environ["INFRO_API_KEY"],
)

client.chat.completions.create(
    model="openai/gpt-5.6-sol",
    messages=[{"role": "user", "content": "Hello"}],
    extra_body={
        # Only your Bedrock connection may serve this request
        "routing": {"providers": {"allow": ["aws-bedrock"]}},
        "metadata": {"user_id": "cust_123"},
    },
)

Appelants Converse

Si votre code utilise Converse ou InvokeModel via boto3 ou le SDK AWS, il n'y a pas de bascule en deux lignes : le format de requête passe à Chat Completions. Pour Claude, gardez ces appels en direct, ou connectez Anthropic ou Vertex AI et appelez /v1/messages.

Basculement entre clouds

Une route peut essayer GPT sur Bedrock d'abord, puis sur OpenAI ou Azure OpenAI, chacun sur votre propre compte. routing.providers maintient une requête sur Bedrock quand elle doit y rester.

Le coût reste dans la facturation AWS

INFRO estime chaque requête à partir de votre tarif négocié ou du tarif public. Il ne lit pas la facturation AWS : il n'y a donc pas de montant rapproché pour Bedrock ; votre facture AWS reste la référence.

Les objets de Amazon Bedrock face à ceux de INFRO, d'après la documentation publique de Amazon Bedrock lue le 19 octobre 2026 et vérifiés par rapport à ce que la passerelle implémente. Deux lignes indiquent que INFRO n'a rien.

Amazon BedrockCe que cela y faitDans INFRO
Compte et quotas Bedrockmême formeVotre compte AWS, quotas de tokens par minute par modèle.Inchangé : INFRO appelle votre compte et vos quotas s'appliquent. Un 429 de Bedrock suit la règle d'échec de la route.
IAM et SigV4différentRôles, politiques, identifiants de courte durée.Une clé API Bedrock longue durée par connexion. Pas d'assomption de rôle IAM, pas de SigV4.
Converse et InvokeModelrienLes API natives de Bedrock, utilisées pour Claude, Llama, Nova et Cohere.Non appelé. INFRO route uniquement les modèles compatibles OpenAI de Bedrock.
Profils d'inférence interrégionauxdifférentLes profils us., eu., global. routent à l'intérieur d'AWS.Nommés dans la table de correspondance de la connexion ; Bedrock choisit toujours la région. INFRO ajoute le basculement vers d'autres fournisseurs.
Profils d'inférence d'application et `requestMetadata`différentTags et métadonnées pour l'imputation des coûts et le filtrage des journaux.metadata et projets : coût par requête par projet, clé, utilisateur et tag, estimé.
Bedrock GuardrailsdifférentPolitiques de contenu, de sujets, de mots, de PII et d'ancrage par identifiant et version.Les garde-fous propres à INFRO : règles de motifs et vérifications par modèle de décision. Pas de réglage Bedrock Guardrails.
Intelligent prompt routingdifférentUn prompt router choisit entre deux modèles d'une même famille.Le classificateur de prompts d'une route choisit une classe de cibles à l'aide d'un modèle de décision que vous choisissez.
BudgetsdifférentPas de limite de dépenses par requête ; AWS Budgets alerte sur la facture.Des budgets qui refusent au plafond avec 402 avant l'appel, par organisation, projet, membre, clé et client final.
Provisioned Throughput, gestion des promptsrienCapacité réservée et versions de prompts stockées, appelées par ARN.Rien.
Rapprochement des coûtsdifférentCost Explorer et la facture AWS.Estimations uniquement pour Bedrock ; le rapprochement lit les API de coûts d'OpenAI et d'Anthropic, pas la facturation AWS.

Notre lecture de la documentation publiée par Amazon Bedrock, pas un essai ni un benchmark. Si nous avons mal lu quelque chose, dites-le-nous et nous corrigerons la ligne.

Ce que INFRO ne fait pas

  • Router Claude, Llama, Nova ou Cohere sur Bedrock (ils nécessitent Converse).
  • Utiliser des rôles IAM, SigV4 ou des clés Bedrock de courte durée.
  • Appliquer Bedrock Guardrails, les prompt routers, la gestion des prompts ou Provisioned Throughput.
  • Rapprocher avec la facturation AWS.
  • Garder le trafic dans AWS ; INFRO s'exécute sur le réseau de Cloudflare.

Ce qui n'est pas repris

  • Les métriques CloudWatch et les journaux d'invocation de modèles d'avant la bascule ; ils restent dans AWS.
  • Configuration des garde-fous et des prompt routers. Recréez ce qu'INFRO prend en charge dans ses propres garde-fous et routes.

Questions

INFRO peut-il router Claude sur Bedrock ?
Pas aujourd'hui. INFRO appelle l'endpoint compatible OpenAI de Bedrock, et Claude sur Bedrock est servi via Converse. Routez Claude via une connexion Anthropic ou Vertex AI, ou gardez ces appels en direct.
Qui me facture l'usage de Bedrock ?
AWS, sur votre propre compte. INFRO est un abonnement et ajoute 0 % aux dépenses de modèles.
De quel identifiant INFRO a-t-il besoin ?
Une clé API Bedrock longue durée et la région, scellées dans INFRO. Limitez-la avec IAM aux modèles que vous routez.

Migrez avec nous, ou seul

Le programme de migration transpose votre configuration Amazon Bedrock en connexions, routes et budgets INFRO lors d'un appel, et migre le premier service avec vous. Vos fournisseurs continuent de vous facturer directement ; INFRO est un abonnement et ajoute 0 % aux dépenses de modèles.

Essai de 14 jours Réserver une session de migrationINFRO vs Amazon BedrockLire le démarrage rapide

Sources

Chaque affirmation de cette page sur Amazon Bedrock provient de l'une de ces sources, lues le 19 octobre 2026. Rien n'est déduit d'un essai, d'un benchmark ou d'une conversation.