기능 support-triage가 있는 요청이 support라는 라우트에 도착합니다. 첫 번째 규칙 long-prompts는 입력 토큰이 32,000개를 넘을 것으로 추정되는 프롬프트를 Vertex AI 연결로 보내는데, 일치하지 않습니다. 두 번째 규칙 support-triage가 일치해 요청을 Anthropic 연결, 그다음 AWS Bedrock 연결로 보냅니다. Anthropic이 429로 응답하자, rate_limit에 대한 라우트의 실패 규칙이 페일오버를 지정하고, Bedrock 연결이 요청을 처리합니다. 응답에는 라우트, 체인 위치 standby_a, 공급자가 표시됩니다.
다섯 개의 요청이 INFRO의 하나의 API를 거칩니다: Anthropic으로 가는 텍스트, 해상도 2K와 화면비 16:9로 OpenAI에 가는 이미지, 1080p로 Runway에 가는 동영상, 같은 동영상의 720p 버전, mp3로 ElevenLabs에 가는 음성. INFRO는 호출 전에 모든 설정을 해당 공급자에서 그 모델이 받는 설정과 대조합니다. 1080p 동영상은 INFRO에서 거부되어 Runway로 전송되지 않으며, 메시지는 다음과 같습니다: Runway Gen-4 Turbo on Runway renders at 720p, not 1080p. 720p에서는 작업이 되고, 완료되면 서명된 웹훅으로 보고됩니다.
두 화면이 차례로 재생됩니다. 첫 번째에서는 한 프로젝트의 일일 예상 공급자 지출이 평소 $410 수준이다가 오늘 $1,240으로 예상되며, 세 가지 발견 사항이 이어집니다: 새 스냅샷이 응답한 모델과 그 예상 주간 영향, 비정상 지출, 그리고 OpenAI 자체 비용 보고서와 INFRO 추정치의 차이. 두 번째에서는 프로젝트의 이번 달 누계 지출이 $5,000 예산 대비 $5,820으로 예측되며, 발견 사항은 한 모델의 요청당 출력 토큰 증가, 예산 초과 예측, 그리고 Anthropic 비용 보고서와 추정치의 차이입니다. 대사 관련 발견 사항에는 이를 포함하는 요금제가 표시됩니다.
GET/v1/alerts콘솔에도 표시되는 발견 사항
일일 지출 · 프로젝트 support-assistant평소 하루 $410오늘 예상 $1,240
traffic.model_changedopenai/gpt-5.6-terra이 새 모델 스냅샷으로 응답함: gpt-5.6-terra-2026-10-02이전 gpt-5.6-terra-2026-08-14+$212.40예상 주간 영향
spend.anomaly비정상 지출: 프로젝트 support-assistant가 오늘 $1,240에 이를 전망평소 하루 $410$1,240오늘 예상
cost.driftBusinessopenai의 비용 추정치가 공급자 보고치보다 8.4% 낮습니다소스 OpenAI 비용 API7개 중 6개차이가 난 일수
게이트웨이 키 두 개와 그 정책입니다. 프로덕션 키는 support-assistant 프로젝트에 속하며, 하나의 IP 범위에서 Anthropic과 AWS Bedrock을 사용할 수 있고, 프로젝트는 차단 예산 아래에서 하나의 모델만 허용합니다. 이 키의 요청은 공급자 호출 전에 하나씩 결정됩니다. 허용된 모델은 Anthropic 연결이 처리하고, 허용 목록 밖의 모델은 403 model_not_allowed로, 다른 주소에서 온 요청은 403 ip_not_allowed로, 프로젝트 예산을 넘는 요청은 코드 project_budget과 함께 402 budget_exceeded로 거부됩니다. 스테이징 키는 프로덕션 범위의 연결에 접근할 수 없어 503 connection_out_of_scope로 거부되며, 스테이징 연결이 제공하는 모델은 통과합니다.
고객 세 명에게 각각 예상 공급자 지출 기준 하루 2달러의 한도가 있습니다. 요청이 처리되면서 고객마다 사용량이 채워집니다. cus_4f2a의 한도를 넘게 될 요청은 공급자에 닿기 전에 402로 거부되며, 응답에는 한도가 초기화되는 시각인 00:00 UTC가 표시됩니다. UTC 자정에 모든 일일 한도가 초기화됩니다.
cus_7a2c+$0.60$0.00$0.60
cus_91be+$0.40$0.00$0.40
cus_4f2a+$0.90+$0.80$0.00$0.90$1.70
한도 미만: 처리됨402cus_4f2a한도 도달 · 00:00 UTC에 초기화00:00 UTC · 모든 일일 한도 초기화
비용을내는모든모델을,하나의스튜디오에서.
이미 비용을 내고 있는 공급자에서 이미지, 동영상, 사운드를. 첫 프롬프트부터 편집 도구가 여는 컷까지.
1A빗속의 시장도착1B차양 아래의 Mara도착1C등, 클로즈업도착2A컵가판대2BKen이 따름가판대2C창가의 비가판대3A우산 하나를 같이함께3B올라가는 골목함께3C새벽, 엔드 카드함께
프롬프트 세 건이 라우트로 들어옵니다. 의사결정 모델은 각 프롬프트에 대해 요청에 추론이 얼마나 필요한지를 묻는 선택형 질문에 답하며, small, medium, large 각각의 확률을 냅니다. INFRO의 라우트 규칙은 가장 가능성이 높은 클래스에 해당하는 모델로 요청을 보내고, 응답은 X-INFRO-Route-Class 헤더에 그 클래스를 담습니다. 여기서는 OpenAI의 GPT-6 Luna (Decisions)이(가) 답했습니다.
프롬프트
환불 가능 기간은 어떻게 되나요?
GPT-6 LunaOpenAIchoice
이 요청에는 얼마나 많은 추론이 필요한가요?
small0.86Gemini 3.8 Flash
medium0.11Claude Sonnet 5.5
large0.03Claude Opus 5.5
응답 대기 중200X-INFRO-Route-Classsmall; confidence=0.79; source=modelmodelgoogle/gemini-3.8-flash
INFRO는 AI 게이트웨이이자 컨트롤 플레인입니다. 애플리케이션과 이미 비용을 지불하고 있는 OpenAI, Anthropic, Google 같은 AI 공급자 사이에 두는 하나의 API입니다. 자체 공급자 계정을 연결하고 계약과 요금은 그대로 유지합니다. INFRO는 각 요청을 라우팅하고, 공급자가 오류를 반환하면 페일오버하며, 호출 전에 예산을 확인하고, 모든 요청의 지연 시간과 예상 비용을 기록하며, 키·모델·데이터에 정책을 적용합니다. 엔지니어링 팀은 텍스트, 이미지, 비디오, 오디오를 하나의 통합으로 다루기 위해, 재무 팀은 팀·프로젝트·고객별 지출을 보기 위해, 플랫폼 및 보안 팀은 공급자 키와 모델 접근을 중앙에서 관리하기 위해 사용합니다. 모델 사용료는 공급자가 귀사의 요금으로 직접 청구하며, INFRO는 소프트웨어에 대한 월 구독료를 청구하고 모델 지출에 대한 가산은 0%입니다.
OpenAI나 Anthropic을 직접 호출하지 않고 INFRO를 쓰는 이유는 무엇인가요?
한 벤더의 모델 하나만 쓰고 아무도 비용을 묻지 않았다면, 아마 직접 호출하는 편이 맞습니다. 이것도 진지한 답이며, 평가 시간을 낭비하게 하느니 이렇게 말씀드리는 편이 낫습니다. INFRO가 제 역할을 하는 것은 다음 중 하나라도 해당할 때입니다. 여러 벤더의 여러 모델을 사용할 때, 공급자 장애로 제품이 멈춘 적이 있을 때, 어느 고객이나 기능이 얼마를 쓰는지 묻는 사람이 생겼을 때, 공급자 키가 여러 곳에 흩어지기 시작했을 때입니다. 같은 계정으로 같은 공급자를 계속 호출하되, 그 사이의 통합, 페일오버, 비용 계산을 직접 떠안지 않게 됩니다.
체험은 어떻게 시작되나요?
dash.infro.io에서 계정을 만들고 이메일 주소를 인증하세요. 조직을 만들고 요금제를 고른 뒤 결제 단계에서 카드를 등록하면, 그 결제가 완료될 때 14일 체험이 시작됩니다. 14일째가 끝나면 선택한 요금제가 자동으로 청구되며, 14일째 전에 취소하면 청구되지 않습니다. 그동안 모델 사용료는 계속 공급자가 직접 청구합니다.
TypeSafe의 Jev를 INFRO를 통해 실행할 수 있나요?
네. INFRO는 TypeSafe의 요청 본문과 모델 이름으로 TypeSafe의 POST /v1/systemone을 제공하므로, TypeSafe의 SDK가 새 base URL과 INFRO 게이트웨이 키로 INFRO에서 작동합니다. 각 결정은 고객의 TypeSafe 계정에서 실행되며 TypeSafe가 직접 청구합니다. TypeSafe를 호출하기 전에 INFRO가 키와 지출 한도를 확인하고, 호출 후에는 응답한 버전과 예상 비용을 포함해 TypeSafe의 답을 반환하며 요청을 기록합니다.
INFRO 자체에 장애가 나면 어떻게 되나요?
INFRO는 의존성이 하나 더 늘어나는 것이며, 이것이 이 선택의 솔직한 비용이니 계산에 넣으셔야 합니다. 이를 견딜 수 있게 하는 것은 세 가지입니다. 상태 페이지는 게이트웨이보다 훨씬 단순한 별도 배포에서 실행되며, 고객의 브라우저에서 게이트웨이를 확인합니다. 텍스트는 OpenAI 형식을 따르므로, 설정에 공급자 직접 키와 base URL 전환을 두는 두 줄짜리 비상 대책을 적극 권장합니다. 그리고 운영 이력이 없는 서비스는 정직하게 SLA를 제시할 수 없으므로 공개된 가동 시간 SLA는 없습니다. 엔터프라이즈 계약에는 계약상의 SLA를 담을 수 있습니다.
나중에 떠날 수 있나요?
네, 되돌아가는 마이그레이션도 들어올 때와 같은 두 줄입니다. 공개 API로 요청 및 사용 기록을 가져오거나 요청 로그와 Analytics에서 CSV로 내려받아, 요금제의 조회 가능 기간이 지나기 전에 자체 시스템에 보관하세요. 예약 내보내기나 이메일 내보내기는 없습니다.
회사 데이터는 어떻게 처리되며, 학습에 사용하나요?
프롬프트, 입력, 출력을 학습에 사용하지 않으며 판매하지도 않습니다. 사용 메타데이터는 플랫폼 사용량 측정, 비용 추정, 거버넌스에 쓰입니다. 선택 사항인 프롬프트 및 응답 로깅은 기본적으로 꺼져 있으며 요금제에 따라 제한됩니다. 전달에 필요한 작업 기록과 생성된 미디어는 별도입니다. AI 공급자의 데이터 사용 및 보관 설정은 계속 고객과 공급자 간의 계약을 따릅니다.