본문으로 건너뛰기

소개

또 하나의 모델이 아닌, 인프라.

저희가 참여한 AI 제품은 모두 같은 지점에 이르렀습니다. 처음에는 공급자 하나로 시작합니다. 그러다 다른 모델이 이미지에 더 뛰어나서 두 번째를 추가합니다. 이어서 동영상용으로 세 번째, 음성용으로 네 번째를 추가합니다. 이제 SDK 네 개, 자격 증명 네 세트, 청구서 네 장, 그리고 점점 늘어나는 재시도 로직을 관리해야 하는데, 기능 하나에 실제로 비용이 얼마나 드는지 답할 수 있는 사람은 아무도 없습니다.

그중 어떤 작업도 제품을 차별화하지 않습니다. 모든 회사에서 마감에 쫓기며 엉성하게 다시 만드는 같은 계층일 뿐입니다.

저희가 만들고 있는 것

INFRO는 그 계층을 서비스로 운영합니다. 이미 보유한 공급자 계정 위에서 텍스트, 이미지, 동영상, 오디오를 하나의 API로 다룹니다. 라우팅은 요청마다 정상 상태인 연결을 고르고, 연결이 저하되면 다른 곳에서 재시도합니다. 사용량은 프로젝트 키 단위까지 배분할 수 있으며, 각 벤더의 공개 요금으로, 또는 Team 요금제부터는 실제로 협상한 요금으로 가격이 매겨집니다.

공급자와의 상거래 관계는 그대로 유지됩니다. 계약, 약정 지출, 할인, 할당량이 모두 계속 적용되며, 모델 사용량은 공급자가 고객에게 직접 청구합니다. INFRO는 그 어느 부분에도 관여하지 않으며 마진도 없습니다. 저희가 요금을 받는 것은 그 요청을 둘러싼 소프트웨어입니다.

저희가 판매하는 것과 판매하지 않는 것

INFRO가 판매하는 것은 하나입니다. 애플리케이션과 그 애플리케이션이 이미 사용하는 AI 공급자 사이에 위치하는 소프트웨어 플랫폼의 구독입니다. 제품을 만드는 기업에 판매하는 개발자 인프라입니다.

  • 추론을 재판매하지 않습니다. 모델 용량을 사서 되팔지 않습니다. 요청은 고객 자신의 자격 증명으로 자체 공급자 계정에서 실행되므로, 공급자가 고객에게 직접 청구하며 모델 비용에 대해 저희가 판매자가 되는 일은 없습니다.
  • 마켓플레이스가 아닙니다. 제3자 판매자도, 사용자 간 거래도, 대금 지급도 없습니다.
  • 컨설팅을 하지 않습니다. 자문, 구축, 전문 서비스를 판매하지 않습니다. 구매 전 워크로드 비용 산정을 돕는 것은 무료이며, 별도의 계약이 아닙니다.
  • 콘텐츠를 호스팅하지 않습니다. 모델이 생성한 결과물을 호스팅, 게시, 배포하지 않습니다. 출력은 호출자에게 반환되고 임시 저장소에서 만료됩니다.
  • 저장된 가치가 없습니다. 구독은 일정 기간 소프트웨어를 이용할 권리를 구매하는 것입니다. 크레딧도, 토큰 잔액도, 모델 사용에 대한 선불 결제도 아니며, 이전하거나 인출하거나 사용할 잔액이 없습니다.

저희가 지키려는 원칙

  • 숫자를 공개합니다. 소프트웨어 가격을 공개 페이지에 싣고, 그 옆에 각 벤더가 모델별로 청구하는 요금을 함께 보여 줍니다. 무엇이든 연결하기 전에 워크로드 규모를 가늠할 수 있도록 하기 위해서입니다.
  • 종속이 없습니다. 텍스트 API는 OpenAI와 호환되며, 떠날 때도 들어올 때와 같은 한 줄 변경이면 됩니다. 고객을 붙잡는 것은 전환 비용이 아니라 저희가 할 일이어야 합니다.
  • 고객 데이터로 학습하지 않습니다. 프롬프트로도, 출력으로도, 집계된 형태로도 학습하지 않습니다.
  • 아직 없는 것은 없다고 말합니다. 저희는 초기 단계입니다. 부족한 점이 보일 것이고, 그것을 프로덕션보다 저희 글에서 먼저 발견하시길 바랍니다.

문의하기

INFRO의 소유 및 운영 주체는 Egypt에 거주하는 개인 Eslam Osama Mohamed이며, INFRO이라는 상호로 영업합니다.

추론에 상당한 비용을 쓰고 있고 도입을 결정하기 전에 INFRO에서 워크로드가 어떻게 보이는지 확인하고 싶다면, 현재 사용량을 sales@infro.io로 보내 주세요. 고객의 요금 기준으로 자체 공급자가 청구할 금액을 추정하고, INFRO가 그 지출을 팀, 프로젝트, 키별로 어떻게 배분하는지 보여 드리며, 도입할 가치가 없는 경우에는 그렇다고 말씀드립니다. 이는 무료 사전 영업 추정이며, 컨설팅 계약이 아닙니다.

그렇지 않다면 빠른 시작은 약 5분이면 끝납니다.