사용 사례AI를 위한 FinOps
모든 AI 요청이 청구서가 도착하기 전에 귀속됩니다.
모든 요청이 모델, 프로젝트, 키, 사용자 요율 기준의 예상 공급자 비용과 함께 기록됩니다. 비용을 발생시킨 팀, 기능, 고객별로 묶고, 공급자가 보고하는 값과 비교하고, 이미 쓰는 FinOps 도구로 보내세요.
조직 예시입니다. 예상 공급자 비용이며 공급자가 사용자에게 청구합니다. INFRO의 구독료는 별도입니다.
문제
컨트롤 플레인 없이
- 공급자마다 청구서 한 장, 그리고 어느 팀이 일으켰는지 알려 주는 항목은 없습니다.
- 계약에는 다른 요율이 있는데도 모든 추정치에 정가가 쓰입니다.
- AI 지출이 나머지 클라우드 비용을 담은 FinOps 플랫폼 밖에 있습니다.
INFRO 사용 시
- 프로젝트, 키, 멤버, 기능, 최종 고객별로 묶은 비용.
- 벤더의 정가보다 먼저 쓰이는 협상 요율.
- 이미 운영 중인 도구를 위한 FOCUS 데이터셋과 사용량 API.
작동 방식
출처에서 태그 지정
프로젝트와 키가 모든 요청을 자동으로 귀속시키며, X-INFRO-Feature와 X-INFRO-User-Id가 제품 기능과 최종 고객을 더합니다.
사용자 요율로 가격 책정
계약에 명시된 요율을 모델별, 공급자별로 입력하세요. 추정은 정가보다 그것을 먼저 쓰며, 알려진 가격이 없는 것은 $0이 아니라 가격 미정으로 표시됩니다.
루프 닫기
추정치를 공급자가 보고하는 비용과 비교하고, 약정을 추적하며, 결과를 FOCUS 또는 사용량 API로 내보내세요.
제공되는 것
모두 문서화되어 있으며, 각각 어느 요금제에 포함되는지 명시합니다. 요금제가 명시되지 않은 항목은 모든 요금제에 포함됩니다.
지출 귀속
모델, 프로젝트, 키, 멤버, 기능, 또는 요청에 붙이는 최종 사용자 ID별로 비용을 묶습니다.
문서협상 요율Team부터
계약에 명시된 요율을 입력하면 추정이 벤더의 정가보다 그것을 먼저 사용합니다.
문서대조Business부터
예상 지출을 OpenAI와 Anthropic의 비용 API와 매일 비교하며, 차이가 난 경우 가능한 원인을 알려 줍니다.
문서비용 센터와 명세서Team부터
규칙이 요청을 재무가 차지백할 센터에 할당하며, 월별 명세서가 센터별로 합산합니다.
문서FOCUS 및 사용량 내보내기
GET /v1/usage와 /v1/requests, 콘솔의 CSV, 그리고 FinOps 플랫폼용 FOCUS v1.4 데이터셋.
문서요약과 월간 보고서
예산 대비 지출과 전망을 한 페이지에 담아 매주 월요일 이메일로 보내고, 인쇄할 수 있는 월간 보고서도 제공합니다.
문서
대상
- FinOps 실무자월말 전에 귀속되는, 나머지 클라우드 비용과 같은 FOCUS 형태의 AI 지출.
- 재무 리더계약 요율을 쓰는 수치로 팀별 쇼백 또는 차지백.
- 엔지니어링 매니저이번 주 어떤 기능, 모델, 키가 숫자를 움직였는지, 스프레드시트 없이.
FAQ
INFRO가 보여 주는 비용은 공급자가 청구할 금액인가요?
정가나 입력한 협상 요율에서 계산한 공급자 비용의 추정치입니다. 최종 수치는 공급자의 청구서입니다. OpenAI나 Anthropic이 비용 데이터를 공개하는 경우, 대조 기능이 둘을 매일 비교합니다.
INFRO가 모델 지출에 무언가를 더하나요?
아니요. 가산 0%입니다. 공급자는 추론에 대해 사용자에게 직접 청구하고, INFRO는 별도의 소프트웨어 구독료를 청구합니다. 이 둘은 어떤 INFRO 화면에서도 합산되지 않습니다.
어떤 FinOps 도구가 내보낸 파일을 읽을 수 있나요?
CSV 또는 JSON으로 된 FOCUS v1.4 Cost and Usage 데이터셋을 불러오는 모든 도구, 또는 게이트웨이 키로 사용량 API를 호출할 수 있는 모든 것.
전체 계약은 비용 귀속 문서에 있으며, 그 밖의 모든 질문은 FAQ에 있습니다.
실무 가이드
- 실무 가이드LLM FinOps: control AI spend without slowing product teamsLLM FinOps is the operating system around inference spend: ownership, allocation, budgets, anomaly response, and quality-adjusted unit economics.
- 실무 가이드Attributing AI cost to customers, features and teamsThe provider's finest unit of cost is an account structure you created for its convenience. The dimensions your business runs on — customer, feature, team — only exist where the request passes through something you control.
- 실무 가이드Showback and chargeback for AI spendProvider invoices arrive per account, not per team. Showback and chargeback for AI spend depend on tagging every request at the source, booking it with rules finance can audit, handling shared costs openly, and closing each month so it never moves.