LLM 라우터 및 게이트웨이
INFRO vs Requesty
Requesty는 OpenAI 호환 라우팅 게이트웨이입니다. 수백 개 모델에 대한 엔드포인트 하나에, 폴백, 부하 분산, 지연 시간 기반 라우팅 정책, 자동 캐싱, 팀, 사용자, 키별 예산, PII와 비밀 값 가드레일, 승인된 모델 목록, 응답의 요청별 비용을 제공합니다. 모델별로 Requesty의 키 또는 자체 키를 쓸 수 있습니다. 이 목록의 다른 제품보다 INFRO와 더 많이 겹칩니다. 의견이 갈리는 것은 라우팅이 할 만한 일인지가 아니라 범위입니다.
Requesty 쪽이 더 나은 선택인 경우
- 워크로드가 텍스트 중심이고 앞으로도 그럴 가능성이 큰 경우입니다. INFRO가 미디어를 위해 갖춘 추가 기능은 쓰지 않을 비용입니다.
- 처리를 EU 안에 두어야 하는 경우입니다. Requesty는 EU 엔드포인트와 EU 호스팅 모델을 문서화하고 있습니다. 리전별 처리는 INFRO의 로드맵에 있으며 현재 사용할 수 없습니다.
- 일부 모델은 플랫폼의 공급자 키를, 나머지는 자체 키를 쓰는 선택지를 원하는 경우입니다. INFRO는 연결한 계정에서만 실행됩니다.
- 상대의 특정 캐싱이나 라우팅 정책 동작이 원하는 방식과 맞는 경우입니다. 이것은 마케팅이 아니라 실제 평가의 문제이므로 양쪽 문서를 모두 읽어 보세요.
이 섹션은 예의상 넣은 것이 아닙니다. 이 중 하나에 해당한다면 Requesty 쪽을 선택하세요. 저희 조언으로 맞지 않는 계층을 도입한 고객은 처음부터 고객이 아니었던 경우보다 저희에게 더 나쁩니다.
두 제품이 실제로 갈라지는 지점.
- 모달리티 네 가지인가, 하나인가
- 몇 분이 걸리고, 웹훅으로 돌아오며, 공급자의 보존 기간보다 오래 남아야 하는 파일을 만드는 6초짜리 동영상 렌더링의 라우팅 문제는 채팅 완성을 라우팅하는 것과 다른 문제입니다. 둘을 모두 다루는 것이 INFRO가 내린 설계 결정입니다.
- 돈이 어디에 있고, 누가 보유하는가
- 미디어 비중이 큰 제품에서는 지출이 이미지, 동영상, 오디오에 집중되는데, 텍스트 중심 게이트웨이의 대시보드에서는 이 워크로드가 가장 잘 보이지 않습니다. INFRO는 네 가지 모달리티를 모두 다루며, 자체 공급자의 요율로 자체 계정에서 같은 방식으로 비용을 귀속합니다. INFRO는 어느 쪽이든 그 금액의 0%를 받으므로, 지출을 늘리는 것이 아니라 읽기 쉽게 만드는 것이 INFRO의 이해관계입니다.
- 설정이 아니라 제품으로서의 거버넌스
- 멤버 역할, 4단계 상한, 모델 허용 목록, 관리 감사 기록이 플랫폼 팀에 공통 통제 세트를 제공하며, Business 요금제부터 SAML/OIDC 싱글 사인온과 SCIM 디렉터리 프로비저닝이 더해집니다.
나란히 비교.
저희 열에도 대시가 있습니다. 한쪽이 모두 체크인 비교는 아무도 믿지 않으며, 그럴 만합니다.
| 기능 | Requesty | INFRO |
|---|---|---|
| 텍스트 모델 접근 | 예 | 예 |
| 이미지, 동영상, 오디오 | 부분이미지 및 오디오 엔드포인트, 동영상은 문서화되지 않음 | 예 |
| 라우팅 및 폴백 | 예 | 예 |
| 자체 공급자 계정 | 부분모델별, 라우팅 정책 안에서 | 예모든 요청 |
| 분석 및 비용 추적 | 예 | 예 |
| 지출 통제 | 예팀, 사용자, 키 | 예조직, 프로젝트, 멤버, 키 |
| 가드레일 | 예PII와 비밀 값, 보고 또는 마스킹 | 부분채팅 패턴과 프롬프트 분류기, Business 요금제 |
| 공급자 자체 청구서와의 대조 | 아니요 | 부분OpenAI와 Anthropic, Business 요금제, 편차 명시 |
| EU 데이터 레지던시 | 예EU 엔드포인트와 EU 호스팅 모델 | 아니요로드맵에 있음 |
| 비동기 작업과 서명된 웹훅 | 부분 | 예 |
| 현재 사용 가능 | 예 | 예셀프 서비스 가입 |
각 제품의 공개 문서를 2026년 10월 기준으로 저희가 읽은 내용입니다. 경쟁사의 가격은 인용하지 않습니다. 가격은 바뀌고, 다른 회사 사업에 대한 틀린 숫자는 없는 것보다 나쁘기 때문입니다. 틀린 행이 있다고 생각되면 알려 주세요. 고치겠습니다.
그 차이의 가치를 계산해 보세요
현재 모델 구성이 공급자 정가로 얼마나 드는지와 필요한 요금제를 추정하거나, 실제 사용량을 저희에게 보내 도움이 되는 곳과 그렇지 않은 곳을 확인하세요.
이미 Requesty 사용 중이신가요? Requesty에서 옮겨 오는 마이그레이션 가이드를 읽어 보세요: 바뀌는 코드, 그대로 이어지는 것과 그렇지 않은 것.