지출을 멈추는 예산
임계값에서 알리거나, 공급자를 호출하기 전에 한도에서 차단합니다.
- A. Keller60%
- M. Okafor66%
- S. Lindqvist60%
- J. Barros27%
역할, 예산, 모델 정책, 모든 요청의 비용을 이미 보유한 공급자 계약 위에서 제공합니다.
INFRO 계정은 셀프 서비스입니다. 카탈로그, 문서, API 계약은 공개되어 있고, 게이트웨이는 배포되어 있으며, v1 이후의 기능은 Later로 표시됩니다. 요금제와 체험
문제
팀 여섯 개, 공급자 계정 여섯 개, 로깅 방식 여섯 가지. 그 아래에 계층 하나를 두면 팀은 속도를 유지합니다.
컨트롤 플레인 없이
INFRO 사용 시
제어
요청이 공급자에 도달하기 전에 게이트웨이에서 적용됩니다.
임계값에서 알리거나, 공급자를 호출하기 전에 한도에서 차단합니다.
조직, 프로젝트, 키별로 모델을 승인합니다.
→ 403 model_not_allowed
프로젝트, 키, 또는 직접 붙인 최종 사용자 ID별로.
키는 하나의 프로젝트로 범위가 제한되므로, 영향 범위도 하나의 프로젝트입니다.
싱글 사인온과 디렉터리 프로비저닝.
Business 요금제부터 포함. 신규 기능: 아직 고객 ID 공급자로 프로덕션 왕복을 완료한 사례가 없으므로, 첫 사례는 고객과 함께 계획합니다.
관례가 아니라 데이터베이스에서 추가 전용으로 강제됩니다.
보안
현재 6개의 약정이 적용 중입니다.
연속성
라우트는 응답이 시작되기 전에 재시도 가능한 실패를 다른 연결에서 재시도합니다.
여기에 지어낸 가동률 수치는 없습니다. 계약에는 구제 조치가 포함된 가용성 약정이 들어갑니다.
Enterprise — 셀프 서비스가 아닌 엔터프라이즈 계약으로 제공됩니다.키, 베이스 URL, 모델 ID를 원래대로 바꾸면 됩니다. 요청 및 사용량 기록은 API로 내보낼 수 있습니다.
계약
소프트웨어와 그 조건. 모델 사용량을 누가 청구하는지는 절대 바뀌지 않습니다.
한도
4주 차보다 지금 알게 되는 것이 낫습니다.
FAQ
하나의 조직 아래 프로젝트와 환경을 두어 운영합니다. 역할(소유자, 관리자, 개발자, 분석가)을 지정해 멤버를 초대하고, 멤버와 프로젝트마다 지출 상한을 두고, 프로젝트별로 호출 가능한 모델을 제한하며, 감사 로그에서 누가 무엇을 바꿨는지 확인합니다. 팀마다 자체 키, 예산, 모델 정책을 가지므로 한 프로젝트의 폭주하는 워크로드가 다른 팀의 허용량을 쓸 수 없으며, 조직은 전체를 하나의 화면에서 봅니다. Business 요금제부터는 SAML 또는 OIDC로 자체 ID 공급자를 통해 로그인하고, 디렉터리가 SCIM으로 INFRO 멤버십을 생성하고 비활성화할 수 있습니다.
그렇게 설계되었습니다. 이미 보유한 공급자 계정을 연결하므로 협상 요금, 약정 지출, 할인, 할당량, 엔터프라이즈 계약이 지금과 똑같이 적용됩니다. 공급자가 고객의 가격으로 청구하며, INFRO는 그중 아무것도 가져가지 않습니다. 공개 요금보다 낮은 협상 요금이 있다면 Team 요금제 이상에서 콘솔에 입력할 수 있으며, 그러면 INFRO가 보여 주는 모든 비용 수치가 정가가 아닌 고객의 요금으로 계산됩니다. 떠나는 것도 들어올 때와 같은 두 줄입니다. base URL과 키를 되돌리면 되고, 공급자 계정은 원래 고객의 것이었으므로 그대로입니다.
INFRO는 의존성이 하나 더 늘어나는 것이며, 이것이 이 선택의 솔직한 비용이니 계산에 넣으셔야 합니다. 이를 견딜 수 있게 하는 것은 세 가지입니다. 상태 페이지는 게이트웨이보다 훨씬 단순한 별도 배포에서 실행되며, 고객의 브라우저에서 게이트웨이를 확인합니다. 텍스트는 OpenAI 형식을 따르므로, 설정에 공급자 직접 키와 base URL 전환을 두는 두 줄짜리 비상 대책을 적극 권장합니다. 그리고 운영 이력이 없는 서비스는 정직하게 SLA를 제시할 수 없으므로 공개된 가동 시간 SLA는 없습니다. 엔터프라이즈 계약에는 계약상의 SLA를 담을 수 있습니다.
네, 되돌아가는 마이그레이션도 들어올 때와 같은 두 줄입니다. 공개 API로 요청 및 사용 기록을 가져오거나 요청 로그와 Analytics에서 CSV로 내려받아, 요금제의 조회 가능 기간이 지나기 전에 자체 시스템에 보관하세요. 예약 내보내기나 이메일 내보내기는 없습니다.
프롬프트, 입력, 출력을 학습에 사용하지 않으며 판매하지도 않습니다. 사용 메타데이터는 플랫폼 사용량 측정, 비용 추정, 거버넌스에 쓰입니다. 선택 사항인 프롬프트 및 응답 로깅은 기본적으로 꺼져 있으며 요금제에 따라 제한됩니다. 전달에 필요한 작업 기록과 생성된 미디어는 별도입니다. AI 공급자의 데이터 사용 및 보관 설정은 계속 고객과 공급자 간의 계약을 따릅니다.
아직은 아니며, 그렇다고 주장하지 않겠습니다. 지역 내 처리는 아직 구매하지 않은 인프라 권한이 필요하며, 유럽처럼 보이기만 하는 호스트 이름은 고객이 요청 한 번으로 반증할 수 있는 컴플라이언스 주장입니다. 실제로 강제될 때 알려 드리겠습니다. 그때까지는 요청이 용량이 있는 곳에서 처리된다고 가정하시고, 데이터 상주에 의존하는 계약을 맺기 전에 먼저 상의해 주세요.
아니요, 슬라이드에서도 그렇지 않은 것처럼 암시하지 않겠습니다. 그 대신 약속이 아니라 공개된 자료가 /trust에 있습니다. 감사 법인을 선정했으나 관찰 기간은 아직 정해지지 않은 SOC 2 로드맵, 날짜를 약속하지 않은 채 평가 중으로 표시된 ISO 27001, 현재 시행 중인 통제와 그렇지 않은 통제, 그리고 표준 보안 설문에 대한 답변을 저희와 이야기하지 않고도 내려받을 수 있는 문서입니다. 표준 계약 조항(SCC)을 포함한 DPA, 하위 처리자 목록, 허용 가능한 사용 정책도 전문이 공개되어 있습니다. 그래도 자체 설문을 보내 주세요. 답이 '아직'인 질문을 포함해 모든 질문에 답합니다. 인증서가 필수 조건이라면 처음에 알려 주세요. 현재로서는 충족할 수 없다고 분명히 말씀드리겠습니다.
인프라 벤더는 /subprocessors에 명시되어 있으며, 통지 기간과 긴급 예외도 그곳에 설명되어 있습니다. 연결하는 AI 공급자는 고객이 직접 선택하고 직접 계약합니다. 요청 트레이스에는 시도된 연결이 기록되며, 공급자의 데이터 사용과 보관은 고객 자신의 계약과 계정 설정을 따릅니다.
네, 엔터프라이즈 계약에서 가능합니다. 구독료를 카드로 청구하는 대신 고객의 조건에 따라 분기 또는 연 단위로 인보이스를 발행합니다. 이는 소프트웨어에 대한 인보이스일 뿐입니다. 모델 사용료는 고객이 공급자와 이미 맺은 조건에 따라 공급자가 청구하며, INFRO와의 어떤 계약도 이를 바꾸거나 INFRO 인보이스에 넣지 않습니다.
전체 답변 목록에서 지연 시간, 가격 구조, 공급자 장애를 다룹니다.
연락처
현재 팀이 무엇을 운영하는지 알려 주세요. 엔지니어가 이메일로 회신하며, INFRO가 맞지 않는 부분을 분명히 말씀드립니다.
특정 워크로드에 대한 숫자가 필요하신가요? 워크로드 추정을 요청하세요. 또는 sales@infro.io로 메일을 보내 주세요.