마이그레이션 가이드Amazon Bedrock에서
Amazon Bedrock 단독에서, 여러 공급자 중 하나인 Bedrock으로
Bedrock은 추론을 고객의 AWS 계정 안에서 IAM 아래 실행하고 AWS 청구서에 올립니다. INFRO는 이를 바꾸지 않습니다. 고객 계정의 자격 증명으로 Bedrock을 호출합니다. INFRO가 더하는 것은 Bedrock과 다른 공급자 간의 라우팅과 페일오버, 호출 전에 거부하는 예산, 프로젝트·키·사용자별 요청 비용입니다. 이 페이지는 INFRO가 현재 Bedrock에서 라우팅할 수 있는 것을 정확히 설명합니다. 전부가 아니기 때문입니다.
AWS 서비스. Converse와 함께 Bedrock API 키와 OpenAI 호환 엔드포인트 추가
INFRO 계정은 셀프 서비스입니다. 카탈로그, 문서, API 계약은 공개되어 있고, 게이트웨이는 배포되어 있으며, v1 이후의 기능은 Later로 표시됩니다. 요금제와 체험
현재 상황
Bedrock에 추가된 것
SigV4와 함께 Bedrock API 키(베어러 토큰, 최대 12시간의 단기 또는 장기), 그리고 bedrock-runtime.{region}.amazonaws.com/openai/v1의 OpenAI 호환 Chat Completions와 Responses. AWS는 이를 새 애플리케이션의 권장 엔드포인트라고 합니다.
INFRO가 호출하는 것
장기 Bedrock API 키와 리전을 사용하는 해당 OpenAI 호환 엔드포인트. 그곳의 OpenAI, xAI, Moonshot, MiniMax 모델을 제공합니다. Bedrock ID는 리전별이므로(global.openai.gpt-5.6-sol) 각 모델을 연결의 모델 맵에 지정합니다.
INFRO가 호출하지 않는 것
Converse와 InvokeModel. Bedrock의 Claude, Llama, Nova, Cohere는 여기서 제공되므로, INFRO는 현재 Bedrock에서 이들을 라우팅할 수 없습니다. INFRO를 통한 Claude는 Anthropic 또는 Vertex AI 연결에서 제공됩니다.
많은 AWS 팀에게는 Bedrock만으로 충분합니다. 다음 중 하나라도 해당하면 그대로 두세요.
- 트래픽이 Bedrock의 Claude, Llama, Nova, Cohere이고 AWS에 머물러야 합니다. INFRO는 현재 Bedrock에서 이들을 라우팅할 수 없습니다.
- 보안 팀이 IAM 역할이나 단기 자격 증명만 허용합니다. INFRO의 Bedrock 연결은 장기 Bedrock API 키를 받으며, AWS는 이를 탐색용으로 설명하고 프로덕션에서는 권장하지 않습니다.
- 비용 할당에 Bedrock Guardrails, 프롬프트 라우터, 프롬프트 관리, Provisioned Throughput, 애플리케이션 추론 프로필에 의존하고 있습니다. INFRO에는 자체 가드레일과 라우트가 있지만, 이러한 Bedrock 객체는 없습니다.
- 추론이 지정된 AWS 리전에 머물러야 하고 AWS 밖으로 아무것도 나갈 수 없습니다. INFRO는 앱과 Bedrock 사이의 Cloudflare 네트워크에서 실행되며, 데이터 상주는 로드맵에 있습니다.
수정 사항을 한 행에 하나씩 정리했습니다. 여기에 없는 것은 그대로 유지됩니다.
| Amazon Bedrock | INFRO | |
|---|---|---|
| 베이스 URL | bedrock-runtime.{region}.amazonaws.com(Converse) 또는 그 /openai/v1. | https://api.infro.io/v1 |
| 자격 증명 | IAM의 SigV4 또는 Bedrock API 키. | 앱에는 INFRO 게이트웨이 키. INFRO는 고객 계정의 장기 Bedrock API 키를 봉인해 보관하며, IAM으로 허용한 범위에 한정됩니다. |
| 모델 ID | global.openai.gpt-5.6-sol, openai.gpt-oss-120b-1:0. | openai/gpt-5.6-sol, openai/gpt-oss-120b. 연결이 각각을 Bedrock ID에 매핑합니다. aws-bedrock/<bedrock id>로 카탈로그에 없는 ID에 접근합니다. |
| 필드 | requestMetadata, guardrailConfig, X-Amzn-Bedrock-Guardrail* 헤더. | metadata { user_id, session_id, tags }. INFRO 가드레일은 콘솔에서 구성합니다. |
이전 · Bedrock, OpenAI 호환
import os
from openai import OpenAI
client = OpenAI(
base_url="https://bedrock-runtime.us-east-1.amazonaws.com/openai/v1",
api_key=os.environ["AWS_BEARER_TOKEN_BEDROCK"],
)
client.chat.completions.create(
model="global.openai.gpt-5.6-sol",
messages=[{"role": "user", "content": "Hello"}],
)이후 · INFRO
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.infro.io/v1",
api_key=os.environ["INFRO_API_KEY"],
)
client.chat.completions.create(
model="openai/gpt-5.6-sol",
messages=[{"role": "user", "content": "Hello"}],
extra_body={
# Only your Bedrock connection may serve this request
"routing": {"providers": {"allow": ["aws-bedrock"]}},
"metadata": {"user_id": "cust_123"},
},
)Converse 호출자
코드가 boto3나 AWS SDK로 Converse 또는 InvokeModel을 쓴다면 두 줄 전환은 없습니다. 요청 형식이 Chat Completions로 바뀝니다. Claude는 해당 호출을 직접 호출로 유지하거나, Anthropic 또는 Vertex AI를 연결하고 /v1/messages를 호출하세요.
클라우드 간 페일오버
라우트는 Bedrock의 GPT를 먼저 시도하고 다음으로 OpenAI나 Azure OpenAI를 시도할 수 있으며, 모두 고객의 계정에서 실행됩니다. 요청이 Bedrock에 머물러야 할 때는 routing.providers가 이를 보장합니다.
비용은 AWS 청구에 남습니다
INFRO는 협상 요금이나 정가로 각 요청을 추정합니다. AWS 청구는 읽지 않으므로 Bedrock에는 대사된 수치가 없으며, AWS 청구서가 기준 기록으로 남습니다.
Amazon Bedrock의 공개 문서(2026년 10월 19일에 읽음)를 바탕으로 Amazon Bedrock의 객체를 INFRO의 객체와 대조하고, 게이트웨이가 구현한 내용과 비교해 확인했습니다. INFRO에 없다고 표시된 행이 2개입니다.
| Amazon Bedrock | 그곳에서 하는 일 | INFRO에서 |
|---|---|---|
| Bedrock 계정과 할당량같은 구조 | 고객의 AWS 계정, 모델별 분당 토큰 할당량. | 변경 없음: INFRO는 고객의 계정을 호출하며 고객의 할당량이 적용됩니다. Bedrock의 429는 라우트의 실패 규칙을 따릅니다. |
| IAM과 SigV4다름 | 역할, 정책, 단기 자격 증명. | 연결마다 장기 Bedrock API 키 하나. IAM 역할 수임과 SigV4는 없습니다. |
| Converse와 InvokeModel해당 없음 | Claude, Llama, Nova, Cohere에 쓰이는 Bedrock 네이티브 API. | 호출하지 않습니다. INFRO는 Bedrock의 OpenAI 호환 모델만 라우팅합니다. |
| 교차 리전 추론 프로필다름 | us., eu., global. 프로필은 AWS 내부에서 라우팅됩니다. | 연결의 모델 맵에 지정합니다. 리전은 여전히 Bedrock이 고릅니다. INFRO는 다른 공급자로의 페일오버를 더합니다. |
| 애플리케이션 추론 프로필과 `requestMetadata`다름 | 비용 할당과 로그 필터링을 위한 태그와 메타데이터. | metadata와 프로젝트: 프로젝트, 키, 사용자, 태그별 요청당 비용, 추정치. |
| Bedrock Guardrails다름 | ID와 버전으로 지정하는 콘텐츠, 주제, 단어, PII, 그라운딩 정책. | INFRO 자체 가드레일: 패턴 규칙과 의사결정 모델 검사. Bedrock Guardrails 설정은 없습니다. |
| 지능형 프롬프트 라우팅다름 | 프롬프트 라우터가 한 계열의 두 모델 중에서 선택합니다. | 라우트의 프롬프트 분류기가 선택한 의사결정 모델로 대상 클래스를 고릅니다. |
| 예산다름 | 요청별 지출 한도 없음. AWS Budgets가 청구서 기준으로 알림을 보냅니다. | 조직, 프로젝트, 멤버, 키, 최종 고객별로 상한에서 호출 전에 402로 거부하는 예산. |
| Provisioned Throughput, 프롬프트 관리해당 없음 | ARN으로 호출하는 예약 용량과 저장된 프롬프트 버전. | 없음. |
| 비용 대사다름 | Cost Explorer와 AWS 청구서. | Bedrock은 추정치만 제공합니다. 대사는 AWS 청구가 아니라 OpenAI와 Anthropic의 비용 API를 읽습니다. |
체험이나 벤치마크가 아니라 Amazon Bedrock의 공개 문서를 저희가 읽은 결과입니다. 잘못 읽은 부분이 있으면 알려 주세요. 해당 행을 수정하겠습니다.
INFRO가 하지 않는 것
- Bedrock의 Claude, Llama, Nova, Cohere 라우팅(Converse 필요).
- IAM 역할, SigV4 또는 단기 Bedrock 키 사용.
- Bedrock Guardrails, 프롬프트 라우터, 프롬프트 관리, Provisioned Throughput 적용.
- AWS 청구와 대사.
- 트래픽을 AWS 안에 유지. INFRO는 Cloudflare 네트워크에서 실행됩니다.
이어지지 않는 것
- 전환 이전의 CloudWatch 메트릭과 모델 호출 로그. AWS에 남습니다.
- 가드레일과 프롬프트 라우터 구성. INFRO가 지원하는 것은 INFRO의 가드레일과 라우트에서 다시 만드세요.
질문
- INFRO가 Bedrock의 Claude를 라우팅할 수 있나요?
- 현재는 불가능합니다. INFRO는 Bedrock의 OpenAI 호환 엔드포인트를 호출하고, Bedrock의 Claude는 Converse로 제공됩니다. Claude는 Anthropic 또는 Vertex AI 연결로 라우팅하거나 직접 호출로 유지하세요.
- Bedrock 사용료는 누가 청구하나요?
- AWS가 고객의 계정으로 청구합니다. INFRO는 구독이며 모델 지출에 0%를 더합니다.
- INFRO에는 어떤 자격 증명이 필요한가요?
- 장기 Bedrock API 키와 리전을 INFRO에 봉인해 보관합니다. IAM으로 라우팅하는 모델에만 범위를 제한하세요.
저희와 함께, 또는 직접 옮기세요
마이그레이션 프로그램에서는 통화로 Amazon Bedrock 설정을 INFRO 연결, 라우트, 예산에 매핑하고 첫 서비스를 함께 옮깁니다. 공급자는 계속 고객에게 직접 청구하며, INFRO는 구독이고 모델 지출에 0%를 더합니다.
출처
이 페이지에서 Amazon Bedrock에 관한 모든 서술은 2026년 10월 19일에 읽은 다음 자료 중 하나에서 나왔습니다. 체험, 벤치마크, 대화에서 추론한 것은 없습니다.
- AWS — Bedrock API keys2026년 10월 19일에 읽음
- AWS — Chat Completions API on Bedrock2026년 10월 19일에 읽음
- AWS — Responses API and bedrock-mantle2026년 10월 19일에 읽음
- AWS — Converse API reference2026년 10월 19일에 읽음
- AWS — Cross-Region inference2026년 10월 19일에 읽음
- AWS — Inference profiles2026년 10월 19일에 읽음
- AWS — Intelligent prompt routing2026년 10월 19일에 읽음
- AWS — Prompt caching2026년 10월 19일에 읽음