Cloudflare 개발자 플랫폼의 AI 게이트웨이
INFRO vs Cloudflare AI Gateway
Cloudflare AI Gateway는 공급자 23곳과 자체 Workers AI 앞에 프록시를 두며, 핵심인 분석, 로깅, 캐싱, 속도 제한은 모든 Cloudflare 계정에서 무료입니다. 2026년을 거치며 단순한 프록시를 훨씬 넘어섰습니다. 공급자를 호출하기 전에 평가하는 달러 지출 한도(가격을 아는 모델에 대해서는 자체 키의 요청도 집계), ID별로 귀속되는 지출, 사용자 지정 메타데이터, 버전 관리되는 배포와 즉각적인 롤백을 갖춘 시각적 라우팅 빌더, OpenTelemetry 내보내기, 양방향 가드레일과 데이터 유출 방지가 그것입니다. 트래픽이 이미 Cloudflare를 지난다면 도입에는 오후 한나절이 들 뿐 다른 비용이 없고, 많은 팀에게는 평가가 거기서 끝나야 합니다. 이 페이지에 대한 솔직한 요약입니다.
Cloudflare AI Gateway 쪽이 더 나은 선택인 경우
- 무료가 요구 사항인 경우입니다. 이미 보유한 계정에서는 핵심 기능이 무료이며, 이미 제 역할을 하는 것을 대체하려고 유료 컨트롤 플레인을 살 이유는 없습니다.
- 이미 Cloudflare를 쓰는 경우입니다. 이미 운영 중인 Workers, 스토리지, DNS 옆에서, 이미 체결한 계약 아래에서 새 벤더를 검토할 필요도, 두 번째 청구서도 없이 동작합니다. 많은 팀에게는 이것이 평가의 전부이며, 게으른 답이 아니라 좋은 답입니다.
- 채팅 완성 너머의 캐싱을 원하는 경우입니다. 두 캐시 모두 정확히 같은 반복 요청에만 응답하지만, Cloudflare의 캐시는 텍스트와 이미지 응답을 포함하고 자체 네트워크에서 제공합니다. INFRO의 응답 캐시는 채팅 완성 요청만 포함하며 프로젝트와 키 환경별로 키가 지정됩니다.
- 요청 경로에서 프롬프트와 응답 양쪽에 가드레일이나 데이터 유출 방지가 필요한 경우입니다. 그것은 상대 쪽의 강점입니다. INFRO에는 채팅 완성에서 PII, 비밀 값, 직접 정한 용어를 보는 패턴 기반 가드레일과, 프롬프트 인젝션, 탈옥, 유해하거나 주제를 벗어난 요청을 프롬프트만 읽고 판단하는 분류기 검사가 있으며, 이는 자체 의사결정 모델 연결에서 실행되고 Business 요금제에 포함됩니다.
- Workers AI를 쓰는 경우입니다. Cloudflare 자체 모델과 서드파티 공급자를 하나의 게이트웨이로 호출하는 것은, 둘을 모두 호스팅하는 회사에서 구입할 때의 실질적인 장점입니다.
- 검증된 디렉터리 기반 사용자 프로비저닝이 필수 요구 사항인 경우입니다. Cloudflare는 Enterprise 고객을 위한 대시보드 SCIM 프로비저닝을 Okta, Microsoft Entra ID, Authentik 기준으로 문서화하고 있습니다. INFRO는 Business 요금제에 SAML/OIDC SSO와 SCIM 2.0을 포함하지만, 새 기능이라 아직 고객의 ID 공급자와 프로덕션에서 실행된 적이 없으므로 셀프 서비스라고 부르지 않고 첫 연결을 함께 설정해 드립니다.
이 섹션은 예의상 넣은 것이 아닙니다. 이 중 하나에 해당한다면 Cloudflare AI Gateway 쪽을 선택하세요. 저희 조언으로 맞지 않는 계층을 도입한 고객은 처음부터 고객이 아니었던 경우보다 저희에게 더 나쁩니다.
두 제품이 실제로 갈라지는 지점.
- 추정 이후에 일어나는 일
- 두 제품 모두 토큰 수와 모델 요율로 모든 요청의 가격을 책정하고, 그 결과가 추정치라는 점을 솔직하게 밝힙니다. Cloudflare의 지출 한도 문서는 비용 추적이 최선의 노력 방식이며 정확한 청구 금액은 공급자의 대시보드를 참고하라고 말합니다. 게이트웨이가 스스로 알 수 있는 것에 대한 공정한 설명이며, INFRO의 요청별 수치도 같은 조건의 추정치입니다. 차이는 그다음입니다. 일일 작업이 사용자가 의도적으로 부여한 별도의 관리자 자격 증명으로 자체 OpenAI와 Anthropic 비용 API를 읽고, 같은 UTC 날짜에 대해 공급자가 보고한 값을 INFRO의 추정치 옆에 저장하며 편차를 명시합니다. 이는 Business 요금제의 그 두 공급자에 적용되고, 어댑터가 없는 공급자는 편차 0이 아니라 편차 없음으로 표시됩니다. 0은 아무도 확인하지 않은 일치로 읽히기 때문입니다. 재무 논의에 필요한 것은 지출 대시보드가 아니라 청구서와 대조된 수치입니다.
- 협상 요율이 있는 곳
- 둘 다 계약에 실제로 명시된 요율로 가격을 책정할 수 있습니다. Cloudflare는 호출자가 보내는 cf-aig-custom-cost 헤더로 요청마다 받습니다. INFRO는 콘솔에 모델별로, 필요하면 공급자 종류별로 저장하며(같은 모델도 벤더에 직접 계약한 계정과 클라우드 재판매업체를 거칠 때 청구가 다르기 때문입니다), 호출자가 아무것도 몰라도 일치하는 모든 요청에 적용합니다. 차이는 기술이 아니라 운영에 있습니다. 요율이 헤더로 전달되면 모델을 호출하는 모든 서비스가 계약 조건의 사본을 갖게 되고, 재협상하려면 전부 다시 배포해야 합니다. 컨트롤 플레인에 있으면 계약 담당자가 한 번 수정하면 되고, 지난달 요청은 실행 당시 유효했던 요율을 유지합니다. 또한 모든 INFRO 기록은 어떤 요율이 적용되었는지(협상 요율, 벤더의 공개 요율, 또는 가격 미정)를 밝히며, 아무도 가격을 매길 수 없는 요청은 무료가 아니라 가격 미정으로 기록됩니다.
- 라우팅이 적용되는 요청
- Cloudflare의 동적 라우트는 시각적 편집기에서 구성하고, 초안으로 버전을 관리하며, 즉각 롤백이 가능하게 배포합니다. 문서에 따르면 OpenAI 채팅 완성 요청 형태만 받아들이고 다른 형식은 400을 반환합니다. 라우팅 흐름을 만드는 방식으로는 정말 좋지만 범위가 채팅에 한정됩니다. INFRO의 라우트는 우선순위 또는 가중치 대상 목록이며, 이미지, 동영상, 오디오 요청을 포함해 라우트가 서비스하는 모든 것에 적용됩니다. 미디어 비중이 큰 제품의 비용은 실제로 그쪽으로 나갑니다. 어느 형태가 추상적으로 더 낫다고 할 수는 없습니다. 라우팅 문제가 텍스트에서 끝나는지에 따라 달라집니다.
- 게이트웨이 하나인가, 조직인가
- Cloudflare의 단위는 게이트웨이입니다. 접근은 Cloudflare 계정 역할로 정해지고, 요청별 ID는 사용자 지정 메타데이터(최대 5개 항목) 또는 Access에서 옵니다. INFRO의 단위는 조직이며, 그 아래에 프로젝트, 환경, 자체 범위를 가진 키, 다섯 가지 역할, 조직, 프로젝트, 키 단위의 모델 허용 목록, 누가 언제 어떤 정책을 바꿨는지를 담은 감사 로그가 있고, 기본 요금제를 포함한 모든 요금제에서 제공됩니다. 중요한 구분은 통제가 무엇에 연결되어 있느냐입니다. 여기서는 호출자가 스스로를 제대로 표시했는지가 아니라 어느 키가 호출했는지에 따라 상한이나 허용 목록이 적용됩니다. 메타데이터는 둘 중 더 유연하고 더 틀리기 쉽습니다. 한 팀이 AI를 운영하는 동안은 게이트웨이로 충분합니다. 여러 팀이 쓰기 시작하면 질문은 요청 비용이 얼마였는지에서, 어느 팀이 이 모델을 호출할 수 있는지, 누가 승인했는지, 얼마를 썼는지로 바뀝니다. 더 큰 대시보드가 아니라 다른 객체 모델이 필요한 문제입니다.
- 플랫폼의 일부인가, 독립된 제품인가
- 이것이 진짜 갈림길이며, 대부분의 독자에게는 상대에 유리합니다. 그들의 게이트웨이는 Cloudflare 개발자 플랫폼의 한 부분이어서 무료이고, 코드 한 줄로 쓸 수 있으며, 다른 이의 로드맵에 따라 계속 기능이 추가될 것입니다. 제품이 이 페이지보다 빨리 출시되므로 결정하기 전에 저희 문서와 상대 문서를 대조해 보세요. INFRO는 독립 컨트롤 플레인입니다. 검토할 벤더가 하나 늘고 구독이 하나 늘며, 누가 운영하든 AI를 운영하는 일 외에는 어디에도 얽매이지 않습니다. 어느 쪽이 맞는지는 스택의 얼마만큼이 이미 Cloudflare인지에 달려 있으며, 이는 두 제품이 아니라 사용자 자신에 대한 질문입니다.
나란히 비교.
저희 열에도 대시가 있습니다. 한쪽이 모두 체크인 비교는 아무도 믿지 않으며, 그럴 만합니다.
| 기능 | Cloudflare AI Gateway | INFRO |
|---|---|---|
| 여러 공급자를 아우르는 API 하나 | 예공급자 23곳과 Workers AI | 예연결한 공급자가 제공하는 모든 것 |
| 무료 핵심 기능 | 예분석, 로깅, 캐싱, 속도 제한 | 아니요유료 요금제, 체험 있음 |
| 자체 공급자 키 | 예게이트웨이별 Secrets Store에 별칭과 함께 저장 | 예환경별로 연결 |
| 라우팅, 재시도, 페일오버 | 예시각적 라우트, 채팅 완성 형태만 | 예우선순위 또는 가중치 대상, 모든 모달리티 |
| 응답 캐싱 | 예정확 일치, 텍스트와 이미지, 자체 네트워크에서 제공 | 부분정확 일치, 채팅 완성만 |
| 가드레일 및 데이터 유출 방지 | 예각자의 전문 분야, 프롬프트와 응답 | 부분채팅 패턴과 프롬프트 분류기, Business 요금제 |
| 요청 로깅과 트레이스 | 예기본으로 켜짐 | 예페이로드 캡처는 기본으로 꺼짐 |
| 공급자를 호출하기 전에 거부하는 예산 | 예한도에서 429 또는 폴백 모델, 가격이 있는 모델은 BYOK도 집계 | 예402, 4개 범위 |
| 팀, 기능, 최종 고객에 귀속된 비용 | 예사용자 지정 메타데이터 및 ID | 예프로젝트, 키, 사용자 ID |
| 협상 요율 기준의 추정 | 부분호출자가 보내는 헤더 | 예조직별로 저장, Team 요금제 |
| 공급자 자체 청구서와의 대조 | 아니요문서가 공급자의 대시보드를 안내함 | 부분OpenAI와 Anthropic, Business 요금제, 편차 명시 |
| 모델 허용 목록 | 부분라우팅 조건으로 구현 가능 | 예조직, 프로젝트, 키 |
| 프로젝트, 역할, 감사 로그 | 부분Cloudflare 계정 역할 | 예모든 요금제 |
| 요청 기록 | 부분게이트웨이당 저장 용량 상한 | 예요금제에 따라 7~90일 |
| 이미지, 동영상, 오디오 | 부분각 공급자 고유의 형태로 프록시 | 예각각 하나의 요청 형태 |
| 자체 추론 | 예Workers AI | 아니요연결된 공급자로 라우팅 |
| 현재 사용 가능 | 예무료 핵심 기능 | 예셀프 서비스 가입 |
각 제품의 공개 문서를 2026년 10월 기준으로 저희가 읽은 내용입니다. 경쟁사의 가격은 인용하지 않습니다. 가격은 바뀌고, 다른 회사 사업에 대한 틀린 숫자는 없는 것보다 나쁘기 때문입니다. 틀린 행이 있다고 생각되면 알려 주세요. 고치겠습니다.
그 차이의 가치를 계산해 보세요
현재 모델 구성이 공급자 정가로 얼마나 드는지와 필요한 요금제를 추정하거나, 실제 사용량을 저희에게 보내 도움이 되는 곳과 그렇지 않은 곳을 확인하세요.
이미 Cloudflare AI Gateway 사용 중이신가요? Cloudflare AI Gateway에서 옮겨 오는 마이그레이션 가이드를 읽어 보세요: 바뀌는 코드, 그대로 이어지는 것과 그렇지 않은 것.
둘 이상의 옵션을 비교하고 계신가요? Cloudflare AI Gateway의 모든 대안 비교에서 각 옵션이 더 적합한 경우를 확인하세요.