마이그레이션 가이드TrueFoundry에서
TrueFoundry AI Gateway에서
TrueFoundry의 AI Gateway는 INFRO처럼 등록한 공급자 계정에서 실행되며, x-tfy-* 헤더와 게이트웨이 정책으로 설정하는 가상 모델, 캐싱, 예산, 가드레일을 더합니다. 대부분은 INFRO에 대응하지만, 그 주변 플랫폼(모델 배포, 에이전트, Seldon)은 대응하지 않습니다.
독립 회사. Seldon AI 인수(2026-06-24). BYOK AI Gateway, SaaS 또는 Enterprise에서 자체 호스팅
INFRO 계정은 셀프 서비스입니다. 카탈로그, 문서, API 계약은 공개되어 있고, 게이트웨이는 배포되어 있으며, v1 이후의 기능은 Later로 표시됩니다. 요금제와 체험
현재 상황
회사
독립 회사. 2026-06-24에 Seldon AI 인수를 발표했습니다.
최근 변경 사항
전역 Routing Config는 2026-06-15에 Virtual Models로 대체되어 제거되었고, 요금제 기반 기능 제한은 2026-09-22(v0.174.0)부터 적용되었습니다.
요청을 처리하는 계정
사용자 것입니다. 고객이 모델 계정을 등록하며, TrueFoundry의 가격 페이지는 토큰에 가산을 붙이지 않는다고 밝힙니다.
TrueFoundry는 게이트웨이만이 아니라 플랫폼입니다. 플랫폼을 쓴다면 그대로 머무세요.
- TrueFoundry에서 자체 모델을 배포하고 서빙하거나 에이전트 및 Seldon 도구를 쓰는 경우입니다. INFRO는 모델로 라우팅만 하며 호스팅하지 않습니다.
- 게이트웨이를 VPC나 온프레미스에서 운영하는 경우입니다. INFRO는 호스팅형이며 자체 호스팅은 엔터프라이즈 계약입니다.
- 시맨틱 캐싱, 지연 시간 또는 복잡도 기반 라우팅, 임의의 메타데이터를 키로 하는 예산을 쓰는 경우입니다.
- 게이트웨이로 Batch 또는 Files API 트래픽을 보내는 경우입니다.
수정 사항을 한 행에 하나씩 정리했습니다. 여기에 없는 것은 그대로 유지됩니다.
| TrueFoundry | INFRO | |
|---|---|---|
| 베이스 URL | https://gateway.truefoundry.ai 또는 자체 호스팅 게이트웨이. | https://api.infro.io/v1 |
| 키 | Personal Access Token 또는 Virtual Account Token. | 서비스마다 INFRO 게이트웨이 키. 멤버는 콘솔에 따로 로그인합니다. |
| 모델 ID | openai-main/gpt-5.6-terra(모델 계정 / 모델), 또는 가상 모델 이름. | openai/gpt-5.6-terra, 또는 가상 모델과 같은 이름의 라우트. |
| 헤더 | X-TFY-METADATA, x-tfy-cache-config, x-tfy-retry-config, x-tfy-request-id. | 본문의 metadata, 응답 캐시용 cache, 라우트의 재시도, X-INFRO-Trace-Id. |
이전 · TrueFoundry
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://gateway.truefoundry.ai",
apiKey: process.env.TFY_API_KEY,
defaultHeaders: {
"X-TFY-METADATA": JSON.stringify({ user_id: "user_123" }),
},
});
await client.chat.completions.create({
model: "openai-main/gpt-5.6-terra",
messages: [{ role: "user", content: "Hello" }],
});이후 · INFRO
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.infro.io/v1",
apiKey: process.env.INFRO_API_KEY,
});
await client.chat.completions.create({
model: "openai/gpt-5.6-terra",
messages: [{ role: "user", content: "Hello" }],
// @ts-expect-error INFRO extension
metadata: { user_id: "user_123", tags: { feature: "chat" } },
});가상 모델은 라우트가 됩니다
우선순위 기반 및 가중치 기반 가상 모델은 우선순위 및 가중치 라우트에 대응하고, fallback_status_codes와 retry_config는 라우트의 실패 규칙에 대응합니다.
모델 계정은 연결이 됩니다
각 모델 계정의 자격 증명은 연결이 됩니다. 한 공급자의 여러 계정을 한 라우트에 두거나, 대기 키를 마지막으로 하여 분산할 수 있습니다.
본문의 메타데이터
X-TFY-METADATA는 JSON 헤더이고, INFRO의 metadata는 user_id, session_id, tags 맵이 있는 본문 필드입니다.
TrueFoundry의 공개 문서(2026년 10월 19일에 읽음)를 바탕으로 TrueFoundry의 객체를 INFRO의 객체와 대조하고, 게이트웨이가 구현한 내용과 비교해 확인했습니다. INFRO에 없다고 표시된 행이 2개입니다.
| TrueFoundry | 그곳에서 하는 일 | INFRO에서 |
|---|---|---|
| 모델 계정같은 구조 | 등록된 공급자 자격 증명, 모델 ID의 접두사. | 공급자 연결, 공급자당 여러 키. |
| PAT와 Virtual Account Token같은 구조 | 게이트웨이용 사용자 및 서비스 자격 증명. | 허용 목록, IP 범위, 환경, 지출 한도를 갖춘 서비스별 게이트웨이 키. |
| 가상 모델다름 | 대상에 대한 가중치, 우선순위, 지연 시간 또는 복잡도 기반 라우팅. | 우선순위 및 가중치 라우트, if 규칙, 프롬프트 분류기. 지연 시간 기반 라우팅은 없습니다. |
| 캐싱다름 | 정확 일치 및 시맨틱 응답 캐시. | 정확 일치만. |
| Budget Limiting다름 | 테넌트, 팀, 사용자, 모델, 가상 계정, 메타데이터별 한도. 차단 또는 경고. | 조직, 프로젝트, 멤버, 키, 최종 고객별 예산. 402로 차단하거나 임계값에서 알림. 임의의 메타데이터 기준은 아닙니다. |
| 가드레일다름 | 요청별로 이름이 있는 가드레일 정책. | 조직, 프로젝트, 키별로 구성하는 가드레일 규칙. |
| MCP Gateway같은 구조 | MCP 서버, 가상 MCP 서버, 도구 승인. | 승인 및 고정된 도구와 키별 권한 부여를 갖춘 MCP 게이트웨이. |
| Batch와 Files해당 없음 | x-tfy-provider-name을 통한 게이트웨이. | 제공하지 않습니다. |
| 모델 서빙해당 없음 | 플랫폼에 자체 모델 배포. | 없습니다. 자체 호스팅 모델 서버를 openai-compatible 연결로 연결하세요. |
체험이나 벤치마크가 아니라 TrueFoundry의 공개 문서를 저희가 읽은 결과입니다. 잘못 읽은 부분이 있으면 알려 주세요. 해당 행을 수정하겠습니다.
INFRO가 하지 않는 것
- 모델 호스팅 또는 배포.
- 시맨틱 캐싱 또는 지연 시간 기반 라우팅.
- 임의의 요청 메타데이터를 기준으로 한 예산.
- Batch 및 Files API.
- 엔터프라이즈 계약 없이 VPC에서 실행합니다.
이어지지 않는 것
- 요청 로그와 메트릭. 가져오기 도구는 없습니다.
- 가상 모델, 예산, 가드레일 정책이 객체로 존재합니다. 다시 만드세요.
질문
- TrueFoundry도 BYOK인가요?
- 예. 둘 다 사용자가 보유한 공급자 계정에서 실행되며, 어느 쪽도 토큰에 가산을 붙이지 않습니다.
- 가상 모델을 무엇으로 대체하나요?
- INFRO 라우트: 라우트 이름을
model로 보내면, 라우트의 대상과 실패 규칙이 요청이 갈 곳을 정합니다. - INFRO 비용은 얼마인가요?
- 요금제별 정액 구독, 14일 체험 포함. 모델 사용료는 공급자가 직접 청구합니다.
저희와 함께, 또는 직접 옮기세요
마이그레이션 프로그램에서는 통화로 TrueFoundry 설정을 INFRO 연결, 라우트, 예산에 매핑하고 첫 서비스를 함께 옮깁니다. 공급자는 계속 고객에게 직접 청구하며, INFRO는 구독이고 모델 지출에 0%를 더합니다.
출처
이 페이지에서 TrueFoundry에 관한 모든 서술은 2026년 10월 19일에 읽은 다음 자료 중 하나에서 나왔습니다. 체험, 벤치마크, 대화에서 추론한 것은 없습니다.
- TrueFoundry — acquires Seldon AI2026년 10월 19일에 읽음
- TrueFoundry docs — Making LLM requests2026년 10월 19일에 읽음
- TrueFoundry docs — Request headers2026년 10월 19일에 읽음
- TrueFoundry docs — Virtual models2026년 10월 19일에 읽음
- TrueFoundry docs — Caching2026년 10월 19일에 읽음
- TrueFoundry docs — Routing Config deprecation2026년 10월 19일에 읽음
- TrueFoundry docs — Budget Limiting V22026년 10월 19일에 읽음
- TrueFoundry docs — Plan-based feature gating2026년 10월 19일에 읽음
- TrueFoundry — Pricing2026년 10월 19일에 읽음