AI 게이트웨이를 갖춘 엔터프라이즈 AI 플랫폼
INFRO vs TrueFoundry
TrueFoundry는 엔터프라이즈 AI 플랫폼입니다. AI 게이트웨이, MCP 게이트웨이, 에이전트 게이트웨이가 모델 배포 및 서빙, 파인튜닝, 에이전트 도구와 함께 있으며, SaaS, 하이브리드, 자체 클라우드, 온프레미스, 에어갭으로 배포할 수 있습니다. 단독으로도 쓸 수 있는 게이트웨이는 채팅, 임베딩, 이미지, 오디오, 리랭크, 실시간에 걸친 1000개 이상의 모델을 다루며, 라우팅, 예산, 프롬프트 인젝션 검사를 포함한 가드레일, 시맨틱 캐싱, 프롬프트 관리, RBAC를 제공합니다. 모델 호스팅과 그 호출 통제를 자체 경계 안에서 한 플랫폼으로 하고 싶은 기업에 잘 맞습니다.
- 게이트웨이를 온프레미스 또는 에어갭에서 실행해야 하는 경우입니다. TrueFoundry는 그 방식으로 배포할 수 있고 직접 인터넷에 접근할 수 없는 포워드 프록시 뒤에서 게이트웨이를 운영하는 방법을 문서화하고 있습니다. INFRO는 호스팅 서비스이며, 자체 호스팅 또는 하이브리드 배포는 엔터프라이즈 계약에 따른 별도 엔지니어링입니다. 현재 에어갭에서 실행하도록 패키지로 준비된 것은 없습니다.
- 상용 공급자를 호출하는 동시에 자체 모델을 호스팅하고 파인튜닝하는 경우입니다. TrueFoundry는 자체 인프라에서 모델을 서빙하고 같은 플랫폼에서 그 호출을 통제합니다. INFRO는 추론을 운영하지 않으며 사용자가 연결한 공급자와 엔드포인트로만 라우팅합니다.
- 서버를 호스팅하고 게시하며, 도구를 가상 서버로 묶고, 에이전트에 그 모두에 대한 키 하나를 주는 MCP 플랫폼을 원하는 경우입니다. INFRO의 MCP 게이트웨이는 Business 요금제에서 사용자가 직접 운영하는 MCP 서버를 프록시하며, 서버를 호스팅하지는 않습니다.
- 시맨틱 캐싱, 프롬프트 관리, 가장 넓은 모델 카탈로그가 요구 사항의 일부인 경우입니다. 이는 저희가 아니라 상대 쪽의 강점입니다.
이 섹션은 예의상 넣은 것이 아닙니다. 이 중 하나에 해당한다면 TrueFoundry 쪽을 선택하세요. 저희 조언으로 맞지 않는 계층을 도입한 고객은 처음부터 고객이 아니었던 경우보다 저희에게 더 나쁩니다.
두 제품이 실제로 갈라지는 지점.
- 도입하는 플랫폼인가, 이미 비용을 내고 있는 것 위의 컨트롤 플레인인가
- TrueFoundry의 게이트웨이는 AI 워크로드를 자체 인프라에서 실행하는 것이 더 큰 일인 플랫폼 안에 있습니다. 모델 배포, 파인튜닝, GPU 용량, 에이전트 등입니다. INFRO는 워크로드를 실행하지 않습니다. 애플리케이션과 이미 보유한 공급자 계정 사이에 위치하며, 그 호출을 둘러싼 운영 화면이 역할입니다. 어느 프로젝트가 어떤 모델을 호출할 수 있는지, 얼마까지 쓸 수 있는지, 하나가 실패하면 어느 공급자가 처리하는지, 요청 비용이 얼마인지를 다룹니다. 내부 AI 플랫폼을 구축한다면 TrueFoundry가 더 넓은 기반입니다. 이미 계약한 공급자에서 모델을 쓴다면, 호스팅을 위해 만든 플랫폼은 문제에 비해 과합니다.
- 예상 비용, 그리고 공급자 자체의 수치
- 두 제품 모두 가격 카탈로그로 요청별 비용을 추정하고 자체 계약 요율을 받아들입니다. TrueFoundry는 모델별 Private Cost로, INFRO는 Team 요금제부터 모델과 공급자 종류별 협상 요율로 처리합니다. TrueFoundry의 비용 추적 문서에는 공급자가 실제로 청구한 금액과 대조하는 기능이 설명되어 있지 않습니다. Business 요금제에서 INFRO는 OpenAI와 Anthropic의 자체 비용 API를 읽고, 같은 기간의 보고된 비용을 추정치 옆에 저장하며 편차를 명시합니다. 그래서 추정치를 기반으로 세운 예산을 청구서가 도착했을 때 뒷받침할 수 있습니다.
- 한도에서 예산이 하는 일
- TrueFoundry의 예산 규칙은 사용자, 팀, 가상 계정, 모델, 메타데이터를 기준으로 하고, 예산을 넘으면 429를 반환하며, 추적과 알림만 하는 감사 모드로 실행할 수도 있습니다. INFRO의 예산은 조직, 프로젝트, 멤버, 키 단위에 있고 공급자를 호출하기 전에 402로 거부하며 사용자가 정한 임계값에서 알립니다. Team 요금제부터는 제품의 모든 최종 고객을 아우르는 한도 하나를 설정할 수 있고, 애플리케이션이 자체 사용자에게 보여 줄 수 있는 거부 응답을 제공합니다. 어느 쪽이 추상적으로 더 낫다고 할 수는 없습니다. 지출을 사람과 팀이 소유하는지, 프로젝트와 키가 소유하는지가 관건입니다.
- 누가 어떻게 구매하는가
- TrueFoundry는 플랫폼 위에서 개발하는 기업을 대상으로 판매되며, 배포 형태는 고객마다 협의합니다. INFRO의 네 가지 요금제는 공개되어 있고 각각 요금제 전체를 14일간 체험할 수 있으며 모델 지출의 0%를 받습니다. 공급자가 사용자 자신의 계약에 따라 추론을 청구하고, INFRO는 컨트롤 플레인에 대한 구독료를 청구합니다.
나란히 비교.
저희 열에도 대시가 있습니다. 한쪽이 모두 체크인 비교는 아무도 믿지 않으며, 그럴 만합니다.
| 기능 | TrueFoundry | INFRO |
|---|---|---|
| 여러 공급자를 아우르는 API 하나 | 예모델 1000개 이상 | 예연결한 공급자 |
| 라우팅, 재시도, 페일오버 | 예가중치, 지연 시간 또는 우선순위 | 예 |
| 자체 공급자 계정 | 예 | 예환경별로 연결 |
| 온프레미스 및 에어갭 배포 | 예VPC, 온프레미스, 에어갭 | 부분엔터프라이즈 계약, 현재 패키지 없음 |
| 모델 호스팅 및 파인튜닝 | 예더 넓은 플랫폼 | 아니요연결된 공급자로 라우팅 |
| 요청을 거부하는 예산 | 예429, 사용자, 팀, 모델, 메타데이터 | 예402, 조직, 프로젝트, 멤버, 키 |
| 자체 요율 기준의 추정 | 예모델별 Private Cost | 예조직별로 저장, Team 요금제 |
| 공급자 자체 청구서와의 대조 | 아니요 | 부분OpenAI와 Anthropic, Business 요금제, 편차 명시 |
| 가드레일 | 예PII, 프롬프트 인젝션, 모더레이션 | 부분채팅 패턴과 프롬프트 분류기, Business 요금제 |
| MCP 게이트웨이 | 예서버를 호스팅, 게시, 결합 | 부분자체 서버를 프록시, Business 요금제 |
| 응답 캐싱 | 예시맨틱 | 부분정확 일치, 채팅 완성 |
| 프롬프트 관리 | 예 | 아니요제공하지 않음 |
| 이미지, 동영상, 오디오 | 부분이미지와 오디오, 동영상은 문서화되지 않음 | 예각각 하나의 요청 형태 |
| 현재 사용 가능 | 예 | 예셀프 서비스 가입 |
각 제품의 공개 문서를 2026년 10월 기준으로 저희가 읽은 내용입니다. 경쟁사의 가격은 인용하지 않습니다. 가격은 바뀌고, 다른 회사 사업에 대한 틀린 숫자는 없는 것보다 나쁘기 때문입니다. 틀린 행이 있다고 생각되면 알려 주세요. 고치겠습니다.
그 차이의 가치를 계산해 보세요
현재 모델 구성이 공급자 정가로 얼마나 드는지와 필요한 요금제를 추정하거나, 실제 사용량을 저희에게 보내 도움이 되는 곳과 그렇지 않은 곳을 확인하세요.
이미 TrueFoundry 사용 중이신가요? TrueFoundry에서 옮겨 오는 마이그레이션 가이드를 읽어 보세요: 바뀌는 코드, 그대로 이어지는 것과 그렇지 않은 것.