본문으로 건너뛰기

AI 제품이 AI를 둘러싼 인프라까지 떠안을 필요는 없습니다.

AI SaaS를 출시하는 1인 개발자든 수백만 건의 요청을 처리하는 팀이든, INFRO는 모델을 둘러싼 인프라에 자리를 마련해 줍니다. 이미 보유한 공급자 계정 전반에 걸친 하나의 API, 라우팅과 재시도 처리, 그리고 예상 비용과 함께 기록되는 모든 호출. 공급자 청구액에 대한 가산은 0%입니다.

14일 체험 시작제품 둘러보기

INFRO 계정은 셀프 서비스입니다. 카탈로그, 문서, API 계약은 공개되어 있고, 게이트웨이는 배포되어 있으며, v1 이후의 기능은 Later로 표시됩니다. 요금제와 체험

문제

인프라 문제는 매번 똑같습니다.

에이전트, 동영상 도구, SEO 제품, 영업 어시스턴트. 제품은 전혀 달라 보여도 그 아래의 배관은 거의 같아집니다. 공급자, 라우팅, 재시도, 지연 시간, 사용량, 비용, 예산, 안정성. INFRO는 이것들이 코드베이스가 아닌 곳에 자리 잡게 합니다.

그 어느 것도 기능을 출시하지 않습니다. 모두 직접 유지 관리해야 하며, 장애가 날 때마다 하나씩 쌓입니다.

계층이 없으면 앱이 떠안는 것
  • 공급자마다 계정과 키가 있고, 요청 형식도 제각각
  • 재시도, 타임아웃, 그리고 속도 제한에 대해 했던 모든 조치
  • 모델별 비용 계산과, 금방 낡아 버리는 스프레드시트
  • 아무도 설명하지 못한 첫 장애 이후에 추가한 로깅

이 모든 것은 결정한 그날에는 합리적인 결정이었습니다.

제공되는 것

네 가지이며, 하나하나가 직접 해야 했을 작업입니다.

  • 공급자마다가 아닌, 하나의 통합

    텍스트는 OpenAI 요청 형식을 사용하므로 기존 클라이언트가 새 베이스 URL을 가리키기만 하면 됩니다. 이미지, 동영상, 오디오는 모델마다 다른 SDK 대신 모든 모델에 걸쳐 하나의 INFRO 형식을 사용합니다.

  • 공급자를 바꿔도 코드는 그대로입니다

    모델을 추가하거나, 워크로드를 옮기거나, 대기 공급자를 두는 일은 배포가 아니라 이 계층의 변경입니다. 각 응답에는 여전히 처리한 공급자와 연결이 명시되므로 숨겨지는 것은 없습니다.

  • 모든 요청이 비용과 함께 기록됩니다

    모델, 라우트, 지연 시간, 토큰 또는 단위, 예상 공급자 비용. 프로젝트, 키, 또는 자체 최종 사용자 단위로 배분할 수 있습니다. 누군가 마진을 물을 때 필요한 숫자입니다.

  • 이메일 대신 멈추는 상한

    폭주하는 루프나 잘못된 프롬프트는 곧 청구서입니다. 차단으로 설정한 프로젝트별 또는 키별 지출 한도는 사후에 알리는 대신, 한도에 도달하면 공급자를 호출하기 전에 요청을 거부합니다.

제품

모든 요청에는 공급자가 청구할 금액의 추정치가 붙고, 프로젝트, 키, 고객 또는 기능에 배분됩니다. 추정치는 벤더의 공개 요금으로 계산하며, Team 요금제에서 협상한 요금을 입력하면 그 요금으로 계산합니다.

요청

요청 4건 · 최근 15분

시간프로젝트공급자상태지연 시간예상 비용
처리됨
4개 중 3개
폴백으로 복구됨
1
공급자 호출 전에 거부됨
1
예상 공급자 비용
$0.0100

요청을 선택하면 모든 시도와 지연 시간, 예상 비용을 볼 수 있습니다.

사용량이 늘면 모델 지출은 기능 비용이 아니라 제품의 경제성이 되고, 공급자별 월간 합계로는 더 이상 답이 되지 않습니다. 이 계층을 아래에 두기 좋은 때는 그 숫자가 설명이 필요할 만큼 커지기 전입니다.

도입

제품이 이미 텍스트용으로 OpenAI 호환 API를 호출하고 있다면, 클라이언트와 요청 코드는 그대로 두고 값 세 개만 바꾸면 됩니다.

API 키
INFRO 게이트웨이 키. 공급자 자격 증명은 INFRO 안에 봉인된 채로 유지됩니다.
베이스 URL
https://api.infro.io/v1
모델
vendor/model ID 또는 구성한 라우트.

응답은 OpenAI 형식을 유지합니다. INFRO 자체의 거부에는 별도의 오류 코드가 있습니다.

빠른 시작 읽기 공급자 연결
app.py+3−2
import osfrom openai import OpenAI client = OpenAI(삭제됨:     api_key=os.environ["OPENAI_API_KEY"],추가됨:     api_key=os.environ["INFRO_API_KEY"],추가됨:     base_url="https://api.infro.io/v1",) response = client.chat.completions.create(삭제됨:     model="gpt-5.6-terra",추가됨:     model="openai/gpt-5.6-terra",    messages=messages,)

질문

각각 한 줄로 답했습니다. 신경 쓸 필요가 없다는 답도 포함해서요.

다시 작성해야 하는 것이 있나요?
텍스트라면 아닙니다. 베이스 URL, 키, 모델 문자열만 바꾸면 됩니다. 클라이언트 라이브러리, 요청 본문, 응답 파싱, 오류 처리는 그대로입니다.
우리 규모에도 해당되나요?
두 번째 공급자를 붙일 때, 첫 장애가 났을 때, 아무도 설명하지 못하는 첫 청구서가 왔을 때 제값을 합니다. 벤더 하나의 모델 하나를 적게 쓰고 있다면 직접 연결하세요. 평가 시간을 낭비하게 하기보다 그렇게 말씀드리는 편이 낫습니다.
모든 것을 옮겨야 하나요?
아닙니다. 엔드포인트 하나를 연결하고 나머지는 그대로 둔 채 비교하세요. 떠날 때도 같은 변경을 반대로 하면 됩니다.
비용이 더 들까요?
공급자는 계속 고객의 요금으로 청구하며, INFRO는 그중 0%를 가져갑니다. INFRO에 지불하는 것은 컨트롤 플레인에 대한 고정 구독료로, 가격 페이지에 공개되어 있습니다. 요금제는 네 가지로 월 $35부터 시작하며, 모두 14일 체험이 있습니다. INFRO가 판매하는 어떤 것도 토큰당 가격이 아니므로, 프롬프트가 길어지거나 모델이 비싸져도 바뀌지 않습니다. 요금제는 요청량에 따라 단계가 올라가며, 모든 단계는 직접 선택하는 공개 가격입니다.
누구와 이야기하기 전에 먼저 살펴볼 수 있나요?
공급자 페이지에 연결할 수 있는 모든 공급자가, 문서에 전체 API 계약이, 가격 페이지에 모든 요금제가 있습니다. 콘솔 자체는 계정이 있어야 하며 직접 만들 수 있지만, 이 페이지의 다른 내용은 대화 없이도 확인할 수 있습니다.

시작하기

AI 제품을 만들고 계신가요? 스택에 INFRO를 넣으세요.

한 번 연결하고, 워크로드가 필요로 할 때 라우팅, 가시성, 지출 제어를 더하세요.

14일 체험 시작제품 둘러보기