Zum Inhalt springen

MigrationsleitfädenVon Amazon Bedrock

Von Amazon Bedrock allein zu Bedrock als einem Ihrer Anbieter

Bedrock hält Inferenz in Ihrem AWS-Konto, unter IAM und auf Ihrer AWS-Rechnung. INFRO ändert daran nichts: Es ruft Bedrock mit Zugangsdaten aus Ihrem Konto auf. Was es hinzufügt, sind Routing und Failover über Bedrock und Ihre anderen Anbieter, Budgets, die vor dem Aufruf ablehnen, und Kosten pro Anfrage nach Projekt, Schlüssel und Nutzer. Diese Seite sagt genau, was INFRO heute auf Bedrock routen kann, denn das ist nicht alles.

AWS-Dienst; Bedrock-API-Schlüssel und OpenAI-kompatible Endpunkte neben Converse hinzugekommen

INFRO-Konten sind per Selbstregistrierung verfügbar. Katalog, Dokumentation und API-Vertrag sind öffentlich, das Gateway ist bereitgestellt, und alles über v1 hinaus ist als „Später“ markiert. Tarife und Testphase

Wo die Dinge stehen

Was Bedrock hinzugefügt hat

Bedrock-API-Schlüssel (Bearer-Tokens; kurzfristig bis zu 12 Stunden oder langfristig) neben SigV4 sowie OpenAI-kompatible Chat Completions und Responses unter bedrock-runtime.{region}.amazonaws.com/openai/v1, das AWS als empfohlenen Endpunkt für neue Anwendungen bezeichnet.

Was INFRO aufruft

Dieser OpenAI-kompatible Endpunkt, mit einem langfristigen Bedrock-API-Schlüssel und einer Region. Er stellt die dortigen Modelle von OpenAI, xAI, Moonshot und MiniMax bereit. Jedes Modell wird in der Modellzuordnung der Verbindung benannt, weil Bedrock-IDs regional sind (global.openai.gpt-5.6-sol).

Was INFRO nicht aufruft

Converse und InvokeModel. Claude, Llama, Nova und Cohere auf Bedrock werden dort bereitgestellt, daher kann INFRO sie heute nicht auf Bedrock routen. Claude über INFRO kommt aus einer Anthropic- oder Vertex-AI-Verbindung.

Für viele AWS-Teams ist Bedrock allein die richtige Antwort. Bleiben Sie dabei, wenn eines davon zutrifft.

  • Ihr Traffic ist Claude, Llama, Nova oder Cohere auf Bedrock und muss auf AWS bleiben. INFRO kann diese heute nicht auf Bedrock routen.
  • Ihr Sicherheitsteam verlangt ausschließlich IAM-Rollen oder kurzfristige Zugangsdaten. Die Bedrock-Verbindung von INFRO nimmt einen langfristigen Bedrock-API-Schlüssel, den AWS als für Erkundung gedacht beschreibt und für die Produktion nicht empfiehlt.
  • Sie sind auf Bedrock Guardrails, Prompt-Router, Prompt-Verwaltung, Provisioned Throughput oder Application Inference Profiles zur Kostenzuordnung angewiesen. INFRO hat eigene Guardrails und Routen, aber keines dieser Bedrock-Objekte.
  • Inferenz muss in einer benannten AWS-Region bleiben, und nichts darf AWS verlassen. INFRO läuft im Netz von Cloudflare zwischen Ihrer App und Bedrock; Datenresidenz steht auf der Roadmap.

Die Änderungen, je eine Zeile. Alles, was hier nicht aufgeführt ist, bleibt, wie es ist.

 Amazon BedrockINFRO
Basis-URLbedrock-runtime.{region}.amazonaws.com (Converse) oder dessen /openai/v1.https://api.infro.io/v1
ZugangsdatenSigV4 aus IAM oder ein Bedrock-API-Schlüssel.Ein INFRO-Gateway-Schlüssel in Ihrer App. INFRO hält einen langfristigen Bedrock-API-Schlüssel für Ihr Konto, versiegelt und per IAM auf das begrenzt, was Sie erlauben.
Modell-IDglobal.openai.gpt-5.6-sol, openai.gpt-oss-120b-1:0.openai/gpt-5.6-sol, openai/gpt-oss-120b; die Verbindung ordnet jedes der Bedrock-ID zu. aws-bedrock/<bedrock id> erreicht eine ID, die der Katalog nicht führt.
FelderrequestMetadata, guardrailConfig, Header X-Amzn-Bedrock-Guardrail*.metadata { user_id, session_id, tags }; INFRO-Guardrails in der Konsole konfiguriert.

Vorher · Bedrock, OpenAI-kompatibel

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://bedrock-runtime.us-east-1.amazonaws.com/openai/v1",
    api_key=os.environ["AWS_BEARER_TOKEN_BEDROCK"],
)

client.chat.completions.create(
    model="global.openai.gpt-5.6-sol",
    messages=[{"role": "user", "content": "Hello"}],
)

Nachher · INFRO

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.infro.io/v1",
    api_key=os.environ["INFRO_API_KEY"],
)

client.chat.completions.create(
    model="openai/gpt-5.6-sol",
    messages=[{"role": "user", "content": "Hello"}],
    extra_body={
        # Only your Bedrock connection may serve this request
        "routing": {"providers": {"allow": ["aws-bedrock"]}},
        "metadata": {"user_id": "cust_123"},
    },
)

Converse-Aufrufer

Wenn Ihr Code Converse oder InvokeModel über boto3 oder das AWS SDK nutzt, gibt es keine Umstellung mit zwei Zeilen: Das Anfrageformat wechselt zu Chat Completions. Für Claude belassen Sie diese Aufrufe direkt oder verbinden Anthropic oder Vertex AI und rufen /v1/messages auf.

Failover über Clouds hinweg

Eine Route kann GPT zuerst auf Bedrock und danach auf OpenAI oder Azure OpenAI versuchen, jeweils auf Ihrem eigenen Konto. routing.providers hält eine Anfrage auf Bedrock, wenn sie dort bleiben muss.

Kosten bleiben in der AWS-Abrechnung

INFRO schätzt jede Anfrage aus Ihrem ausgehandelten Preis oder dem Listenpreis. Es liest die AWS-Abrechnung nicht, daher gibt es für Bedrock keinen abgeglichenen Wert; Ihre AWS-Rechnung bleibt maßgeblich.

Die Objekte von Amazon Bedrock gegenüber denen von INFRO, anhand der öffentlichen Dokumentation von Amazon Bedrock, gelesen am 19. Oktober 2026, und geprüft anhand dessen, was das Gateway implementiert. Zwei Zeilen besagen, dass INFRO nichts hat.

Amazon BedrockWas es dort tutIn INFRO
Bedrock-Konto und Kontingentegleiche FormIhr AWS-Konto, Kontingente für Tokens pro Minute pro Modell.Unverändert: INFRO ruft Ihr Konto auf, und Ihre Kontingente gelten. Ein 429 von Bedrock folgt der Fehlerregel der Route.
IAM und SigV4andersRollen, Richtlinien, kurzfristige Zugangsdaten.Ein langfristiger Bedrock-API-Schlüssel pro Verbindung. Keine Übernahme von IAM-Rollen, kein SigV4.
Converse und InvokeModelnichtsDie nativen APIs von Bedrock, genutzt für Claude, Llama, Nova und Cohere.Nicht aufgerufen. INFRO routet nur die OpenAI-kompatiblen Modelle von Bedrock.
Cross-Region Inference ProfilesandersProfile us., eu., global. routen innerhalb von AWS.In der Modellzuordnung der Verbindung benannt; Bedrock wählt weiterhin die Region. INFRO ergänzt Failover zu anderen Anbietern.
Application Inference Profiles und `requestMetadata`andersTags und Metadaten für Kostenzuordnung und Log-Filterung.metadata und Projekte: Kosten pro Anfrage nach Projekt, Schlüssel, Nutzer und Tag, geschätzt.
Bedrock GuardrailsandersRichtlinien für Inhalte, Themen, Wörter, PII und Grounding nach ID und Version.Die eigenen Guardrails von INFRO: Musterregeln und Prüfungen per Entscheidungsmodell. Keine Bedrock-Guardrails-Einstellung.
Intelligent Prompt RoutingandersEin Prompt-Router wählt zwischen zwei Modellen einer Familie.Der Prompt-Klassifikator einer Route wählt mit einem Entscheidungsmodell Ihrer Wahl eine Klasse von Zielen.
BudgetsandersKein Ausgabenlimit pro Anfrage; AWS Budgets warnt anhand der Rechnung.Budgets, die am Limit mit 402 vor dem Aufruf ablehnen, pro Organisation, Projekt, Mitglied, Schlüssel und Endkunde.
Provisioned Throughput, Prompt-VerwaltungnichtsReservierte Kapazität und gespeicherte Prompt-Versionen, per ARN aufgerufen.Nichts.
KostenabgleichandersCost Explorer und die AWS-Rechnung.Für Bedrock nur Schätzungen; der Abgleich liest die Kosten-APIs von OpenAI und Anthropic, nicht die AWS-Abrechnung.

Unsere Lesart der veröffentlichten Dokumentation von Amazon Bedrock, kein Test und kein Benchmark. Wenn wir etwas falsch gelesen haben, sagen Sie es uns, und wir korrigieren die Zeile.

Was INFRO nicht tut

  • Claude, Llama, Nova oder Cohere auf Bedrock routen (sie brauchen Converse).
  • IAM-Rollen, SigV4 oder kurzfristige Bedrock-Schlüssel verwenden.
  • Bedrock Guardrails, Prompt-Router, Prompt-Verwaltung oder Provisioned Throughput anwenden.
  • Mit der AWS-Abrechnung abgleichen.
  • Traffic innerhalb von AWS halten; INFRO läuft im Netz von Cloudflare.

Was nicht übernommen wird

  • CloudWatch-Metriken und Modellaufruf-Logs von vor der Umstellung; sie bleiben in AWS.
  • Konfiguration von Guardrails und Prompt-Routern. Bilden Sie das, was INFRO unterstützt, in dessen eigenen Guardrails und Routen nach.

Fragen

Kann INFRO Claude auf Bedrock routen?
Heute nicht. INFRO ruft den OpenAI-kompatiblen Endpunkt von Bedrock auf, und Claude auf Bedrock wird über Converse bereitgestellt. Routen Sie Claude über eine Anthropic- oder Vertex-AI-Verbindung oder belassen Sie diese Aufrufe direkt.
Wer rechnet die Bedrock-Nutzung mit mir ab?
AWS, auf Ihrem eigenen Konto. INFRO ist ein Abonnement und schlägt 0 % auf Modellausgaben auf.
Welche Zugangsdaten braucht INFRO?
Ein langfristiger Bedrock-API-Schlüssel und die Region, versiegelt in INFRO. Begrenzen Sie ihn per IAM auf die Modelle, die Sie routen.

Wechseln Sie mit uns oder auf eigene Faust

Das Migrationsprogramm überträgt Ihr Amazon Bedrock-Setup in einem Gespräch auf INFRO-Verbindungen, -Routen und -Budgets und zieht den ersten Dienst gemeinsam mit Ihnen um. Ihre Anbieter rechnen weiterhin direkt mit Ihnen ab; INFRO ist ein Abonnement und schlägt 0 % auf Modellausgaben auf.

Quellen

Jede Aussage auf dieser Seite über Amazon Bedrock stammt aus einer dieser Quellen, gelesen am 19. Oktober 2026. Nichts ist aus einem Test, einem Benchmark oder einem Gespräch abgeleitet.