AWS의 관리형 모델 서비스
INFRO vs Amazon Bedrock
Amazon Bedrock은 AWS의 ID, 네트워킹, 청구 아래에서 여러 벤더의 모델을 AWS 안에서 실행합니다. 모델 주변에는 많은 팀이 게이트웨이로 쓰는 거버넌스 기능이 있습니다. 리전 간 추론 프로필, 애플리케이션 추론 프로필과 Projects를 통한 비용 할당 태그, Bedrock Guardrails, 모델별 IAM 정책, 모델 호출 로깅입니다. AWS에서 운영하며 모델 지출을 AWS 청구서에 두고 싶은 회사에는 당연한 선택이며, 많은 경우 평가는 거기서 끝나야 합니다.
- AWS에서 운영하며 모든 모델 호출을 IAM, VPC, 기존 AWS 계약 아래의 AWS 계정 안에 두려는 경우입니다. Bedrock은 구조상 그 모두를 충족합니다. INFRO는 요청 경로에 있는 또 하나의 벤더입니다.
- 회사가 AWS 지출을 약정한 경우입니다. Bedrock의 모델 사용은 AWS 청구서의 AWS 사용량입니다. INFRO를 거쳐 라우팅하는 직접 공급자 계약의 사용량은 그렇지 않습니다.
- 필요한 모델이 Bedrock에 있는 경우입니다. 클라우드 카탈로그 하나로 워크로드를 모두 처리할 수 있다면, 공급자를 아우르는 컨트롤 플레인이 걸쳐야 할 두 번째 공급자가 없습니다.
- 안전 정책이 요구 사항인 경우입니다. Bedrock Guardrails는 콘텐츠 필터, 금지 주제, 민감 정보 필터, 문맥 근거 검사, Automated Reasoning 검사를 제공하고, ApplyGuardrail API는 모델을 호출하지 않고 텍스트를 검사합니다. INFRO의 가드레일은 채팅 완성에서 PII, 비밀 값, 직접 정한 용어에 대한 패턴 검사이며, Business 요금제부터는 연결한 의사결정 모델에서 실행하는 분류기 검사를 선택할 수 있습니다.
- AWS Cost Explorer와 Cost and Usage Report에서 나머지 AWS 지출 옆에 팀별 비용을 추정치가 아니라 청구 금액으로 보고 싶은 경우입니다.
이 섹션은 예의상 넣은 것이 아닙니다. 이 중 하나에 해당한다면 Amazon Bedrock 쪽을 선택하세요. 저희 조언으로 맞지 않는 계층을 도입한 고객은 처음부터 고객이 아니었던 경우보다 저희에게 더 나쁩니다.
두 제품이 실제로 갈라지는 지점.
- 한 클라우드의 카탈로그인가, 보유한 모든 계정인가
- Bedrock은 Bedrock이 서비스하는 모델을 통제합니다. OpenAI나 Anthropic과의 직접 계약, Google Cloud의 Gemini 키, Azure OpenAI 배포는 그 바깥에 있고 각각 자체 한도, 로그, 비용 보기를 가집니다. INFRO의 단위는 회사가 이미 비용을 내고 있는 공급자 계정의 집합이므로, Bedrock을 포함해 하나의 정책, 하나의 예산, 하나의 요청 기록이 그 전체에 걸칠 수 있습니다.
- 하루 뒤에 청구되는 달러, 또는 요청마다의 추정치
- AWS의 비용 배분은 실제 청구서입니다. 애플리케이션 추론 프로필과 Projects가 태그를 Cost Explorer와 Cost and Usage Report로 전달합니다. AWS 자체 문서도 거기에 따르는 절충을 설명합니다. 가장 세밀한 단위가 요청이 아니라 사용 유형별 일 단위이고, 활성화한 태그는 나타나기까지 최대 24시간이 걸리며 소급 적용되지 않고, 애플리케이션 추론 프로필은 모델 하나에 묶이므로 모델, 팀, 태그 세트의 조합마다 별도의 프로필이 필요합니다. INFRO는 모든 요청에 발생 시점에 가격을 매기며, 벤더의 공개 요율이나 Team 요금제의 협상 요율을 사용하고, 프로젝트, 키, 모델, 라우트, 최종 고객에 귀속시킵니다. 그 수치는 청구서가 아니라 추정치이며, 그래서 Business 요금제에서는 그 달을 OpenAI와 Anthropic의 비용 API와 대조하고 편차를 명시합니다.
- 알림과 거부 정책, 또는 거부된 요청
- AWS에서 지출 통제는 AWS Budgets입니다. 임계값에서 알림을 보내고, 임계값을 넘으면 IAM 또는 서비스 제어 정책을 적용하는 예산 작업이 있습니다. 이는 지출이 기록된 뒤에 적용되는 계정 단위 통제입니다. INFRO는 조직, 프로젝트, 멤버, 키의 차단 예산을 공급자를 호출하기 전에 확인하고 여유가 없으면 402로 거부합니다. 알려진 가격이 없는 모델은 소유자가 가격 미정 트래픽을 허용하지 않는 한 차단 예산에서 거부됩니다. 기준은 공급자의 청구서가 아니라 INFRO의 공급자 비용 추정치입니다.
- 양자택일이 아님
- Bedrock은 INFRO가 라우팅하는 공급자 중 하나가 될 수 있습니다. 연결은 런타임의 OpenAI 호환 Chat Completions 엔드포인트에 Bedrock API 키를 사용하며, 현재는 Bedrock이 그곳에서 제공하는 OpenAI, xAI, Moonshot, MiniMax 모델을 지원합니다. Bedrock의 Claude, Llama, Nova, Cohere는 Converse API가 필요한데 INFRO는 아직 이를 지원하지 않으므로, 당분간은 해당 벤더의 자체 계정이나 다른 클라우드로 연결하세요. 지출은 계속 AWS 청구서에 잡히며, INFRO는 나머지 환경 전체에 걸친 예산, 귀속, 페일오버를 더합니다.
나란히 비교.
저희 열에도 대시가 있습니다. 한쪽이 모두 체크인 비교는 아무도 믿지 않으며, 그럴 만합니다.
| 기능 | Amazon Bedrock | INFRO |
|---|---|---|
| 여러 벤더의 모델 | 예AWS에서 실행되는 Bedrock의 카탈로그 | 예연결한 공급자가 제공하는 모든 것 |
| 공급자와의 직접 계약 | 아니요Bedrock이 호스팅하는 모델만 | 예OpenAI, Anthropic, Google, Azure, Bedrock 등 |
| AWS 청구서에 포함되는 모델 지출 | 예 | 부분Bedrock 연결로 보낸 트래픽에 한함 |
| 팀 또는 애플리케이션별 비용 | 부분태그, 일 단위, 청구 금액, 소급 불가 | 예요청별: 프로젝트, 키, 최종 고객 |
| 공급자 자체 청구서의 비용 | 예Cost Explorer와 CUR | 부분추정치, Business에서 OpenAI와 Anthropic은 대조 |
| 요청을 거부하는 예산 | 부분AWS Budgets 알림과 거부 정책 작업 | 예조직, 프로젝트, 멤버, 키, 402 |
| 페일오버 | 부분Bedrock 내 리전 간 추론 | 예Bedrock을 포함한 자체 공급자 전반 |
| 가드레일 | 예Bedrock Guardrails와 ApplyGuardrail | 부분패턴과 선택형 분류기 검사, 채팅 완성, Business 요금제 |
| 모델별 접근 제어 | 예IAM | 예조직, 프로젝트, 키 단위의 역할과 허용 목록 |
| 자체 클라우드 계정 안에서 실행 | 예 | 부분호스팅형, 엔터프라이즈 계약으로 자체 호스팅 |
| 현재 사용 가능 | 예 | 예셀프 서비스 가입 |
각 제품의 공개 문서를 2026년 10월 기준으로 저희가 읽은 내용입니다. 경쟁사의 가격은 인용하지 않습니다. 가격은 바뀌고, 다른 회사 사업에 대한 틀린 숫자는 없는 것보다 나쁘기 때문입니다. 틀린 행이 있다고 생각되면 알려 주세요. 고치겠습니다.
그 차이의 가치를 계산해 보세요
현재 모델 구성이 공급자 정가로 얼마나 드는지와 필요한 요금제를 추정하거나, 실제 사용량을 저희에게 보내 도움이 되는 곳과 그렇지 않은 곳을 확인하세요.
이미 Amazon Bedrock 사용 중이신가요? Amazon Bedrock에서 옮겨 오는 마이그레이션 가이드를 읽어 보세요: 바뀌는 코드, 그대로 이어지는 것과 그렇지 않은 것.