跳到正文

迁移指南从 Amazon Bedrock

从只用 Amazon Bedrock，到把 Bedrock 作为你的提供商之一

Bedrock 让推理留在你的 AWS 账号中，受 IAM 管理，计入你的 AWS 账单。INFRO 不会改变这一点：它用你账号中的凭据调用 Bedrock。它增加的是跨 Bedrock 和你其他提供商的路由与故障转移、在调用之前就拒绝的预算，以及按项目、密钥和用户统计的每请求成本。本页会准确说明 INFRO 目前能在 Bedrock 上路由什么，因为这并不是全部。

AWS 服务；在 Converse 之外新增了 Bedrock API 密钥和 OpenAI 兼容端点

INFRO 账号可自助开通。 模型目录、文档和 API 契约已公开，网关已部署，v1 之后的所有功能都标注为“后续”。 套餐与试用

现状

Bedrock 新增了什么

在 SigV4 之外支持 Bedrock API 密钥（bearer 令牌；短期最长 12 小时，或长期），以及位于 bedrock-runtime.{region}.amazonaws.com/openai/v1 的 OpenAI 兼容 Chat Completions 和 Responses，AWS 称其为新应用的推荐端点。

INFRO 调用什么

就是这个 OpenAI 兼容端点，加上一个长期 Bedrock API 密钥和一个区域。它提供那里的 OpenAI、xAI、Moonshot 和 MiniMax 模型。每个模型都在连接的模型映射中指定，因为 Bedrock 的 ID 是区域性的（global.openai.gpt-5.6-sol）。

INFRO 不调用什么

Converse 和 InvokeModel。Bedrock 上的 Claude、Llama、Nova 和 Cohere 通过它们提供，因此 INFRO 目前无法在 Bedrock 上路由这些模型。通过 INFRO 使用 Claude，需要来自 Anthropic 或 Vertex AI 的连接。

对很多 AWS 团队来说，只用 Bedrock 就是正确的答案。如果符合以下任意一条，就继续使用 Bedrock。

  • 你的流量是 Bedrock 上的 Claude、Llama、Nova 或 Cohere，并且必须留在 AWS 上。INFRO 目前无法在 Bedrock 上路由这些模型。
  • 你的安全团队要求只使用 IAM 角色或短期凭据。INFRO 的 Bedrock 连接使用长期 Bedrock API 密钥，AWS 将其描述为用于探索用途，并不建议在生产中使用。
  • 你依赖 Bedrock Guardrails、提示词路由器、提示词管理、Provisioned Throughput 或应用推理配置文件来做成本分摊。INFRO 有自己的护栏和路由规则，但没有这些 Bedrock 对象。
  • 推理必须留在指定的 AWS 区域内，且任何内容都不得离开 AWS。INFRO 运行在你的应用与 Bedrock 之间的 Cloudflare 网络上；数据驻留在路线图上。

需要的修改，每项一行。未在此列出的内容都保持不变。

 Amazon BedrockINFRO
基础 URLbedrock-runtime.{region}.amazonaws.com（Converse）或其 /openai/v1。https://api.infro.io/v1
凭据来自 IAM 的 SigV4，或 Bedrock API 密钥。你的应用中使用一个 INFRO 网关密钥。INFRO 持有你账号的一个长期 Bedrock API 密钥，加密封存，其范围由 IAM 限定为你允许的内容。
模型 IDglobal.openai.gpt-5.6-sol, openai.gpt-oss-120b-1:0.openai/gpt-5.6-sol、openai/gpt-oss-120b；连接把每个模型映射到 Bedrock ID。aws-bedrock/<bedrock id> 可访问目录中没有的 ID。
字段requestMetadata、guardrailConfig、X-Amzn-Bedrock-Guardrail* 请求头。metadata { user_id, session_id, tags }；在控制台中配置 INFRO 护栏。

之前 · Bedrock，OpenAI 兼容

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://bedrock-runtime.us-east-1.amazonaws.com/openai/v1",
    api_key=os.environ["AWS_BEARER_TOKEN_BEDROCK"],
)

client.chat.completions.create(
    model="global.openai.gpt-5.6-sol",
    messages=[{"role": "user", "content": "Hello"}],
)

之后 · INFRO

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.infro.io/v1",
    api_key=os.environ["INFRO_API_KEY"],
)

client.chat.completions.create(
    model="openai/gpt-5.6-sol",
    messages=[{"role": "user", "content": "Hello"}],
    extra_body={
        # Only your Bedrock connection may serve this request
        "routing": {"providers": {"allow": ["aws-bedrock"]}},
        "metadata": {"user_id": "cust_123"},
    },
)

Converse 调用方

如果你的代码通过 boto3 或 AWS SDK 使用 Converse 或 InvokeModel，就没有改两行即可切换的办法：请求格式要改为 Chat Completions。对于 Claude，可以让这些调用保持直连，或者连接 Anthropic 或 Vertex AI 并调用 /v1/messages。

跨云故障转移

一条路由规则可以先在 Bedrock 上尝试 GPT，再尝试 OpenAI 或 Azure OpenAI，每一个都在你自己的账号上。当请求必须留在 Bedrock 时，routing.providers 会把它限定在 Bedrock 上。

成本留在 AWS 计费中

INFRO 根据你的协商价或公开价估算每个请求。它不读取 AWS 计费，因此 Bedrock 没有经过对账的数字；你的 AWS 账单仍是准据。

Amazon Bedrock 的对象与 INFRO 的对照，依据 2026年10月19日 阅读的 Amazon Bedrock 公开文档，并已按网关实际实现的内容核对。 有两行显示 INFRO 没有对应项。

Amazon Bedrock它在那里的作用在 INFRO 中
Bedrock 账号和配额形式相同你的 AWS 账号，按模型的每分钟 token 配额。不变：INFRO 调用你的账号，你的配额照常适用。来自 Bedrock 的 429 遵循路由规则的故障规则。
IAM 和 SigV4不同角色、策略、短期凭据。每个连接一个长期 Bedrock API 密钥。不支持 IAM 角色承担，不支持 SigV4。
Converse 和 InvokeModel无对应Bedrock 的原生 API，用于 Claude、Llama、Nova 和 Cohere。不调用。INFRO 只路由 Bedrock 的 OpenAI 兼容模型。
跨区域推理配置文件不同us.、eu.、global. 配置文件在 AWS 内部路由。在连接的模型映射中指定；区域仍由 Bedrock 选择。INFRO 增加到其他提供商的故障转移。
应用推理配置文件和 `requestMetadata`不同用于成本分摊和日志筛选的标签和元数据。metadata 和项目：按项目、密钥、用户和标签统计的每请求成本，为估算值。
Bedrock Guardrails不同按 ID 和版本应用的内容、主题、词语、PII 和接地策略。INFRO 自己的护栏：模式规则和决策模型检查。没有 Bedrock Guardrails 设置。
智能提示词路由不同提示词路由器在同一系列的两个模型之间做选择。路由规则的提示词分类器借助你选择的决策模型，挑选一类目标。
预算不同没有按请求的支出限额；AWS Budgets 针对账单发出提醒。预算在达到上限时于调用之前以 402 拒绝，可按组织、项目、成员、密钥和终端客户设置。
Provisioned Throughput、提示词管理无对应通过 ARN 调用的预留容量和已存储的提示词版本。无。
成本对账不同Cost Explorer 和 AWS 账单。Bedrock 仅有估算；对账读取的是 OpenAI 和 Anthropic 的成本 API，而不是 AWS 计费。

这是我们对 Amazon Bedrock 已发布文档的理解，而非试用或基准测试。如果我们理解有误，告诉我们，我们会修正那一行。

INFRO 不做的事

  • 路由 Bedrock 上的 Claude、Llama、Nova 或 Cohere（它们需要 Converse）。
  • 使用 IAM 角色、SigV4 或短期 Bedrock 密钥。
  • 应用 Bedrock Guardrails、提示词路由器、提示词管理或 Provisioned Throughput。
  • 与 AWS 计费对账。
  • 让流量留在 AWS 内；INFRO 运行在 Cloudflare 的网络上。

哪些无法迁移过来

  • 切换之前的 CloudWatch 指标和模型调用日志；它们留在 AWS 中。
  • Guardrail 和提示词路由器配置。在 INFRO 自己的护栏和路由规则中重建 INFRO 支持的部分。

问题

INFRO 能路由 Bedrock 上的 Claude 吗？
目前不能。INFRO 调用的是 Bedrock 的 OpenAI 兼容端点，而 Bedrock 上的 Claude 通过 Converse 提供。请通过 Anthropic 或 Vertex AI 连接路由 Claude，或让这些调用保持直连。
Bedrock 用量由谁向我收费？
AWS，在你自己的账号上。INFRO 是订阅制，对模型支出加价 0%。
INFRO 需要什么凭据？
一个长期 Bedrock API 密钥及区域，加密封存在 INFRO 中。用 IAM 将其范围限定为你要路由的模型。

和我们一起迁移，或自行迁移

迁移计划会在一次通话中把你的 Amazon Bedrock 设置映射为 INFRO 的连接、路由规则和预算，并和你一起迁移第一个服务。你的提供商继续直接向你收费；INFRO 是一项订阅，对模型支出零加价。

开始 14 天试用 预约迁移会话INFRO 对比 Amazon Bedrock阅读快速入门

来源

本页关于 Amazon Bedrock 的每一项陈述都来自以下来源之一，阅读于 2026年10月19日。没有任何内容是从试用、基准测试或交谈中推断的。