본문으로 건너뛰기

마이그레이션 가이드Orq.ai에서

Orq.ai의 AI Gateway에서

Orq의 AI Gateway는 /v3/router 아래에서 OpenAI 호환이며, provider/model ID를 받고, Orq의 크레딧 또는 연결한 공급자 키로 실행됩니다. 게이트웨이는 네 군데를 수정하면 INFRO로 옮겨집니다. 그 주변의 AI Studio(프롬프트, 평가자, 실험, 지식 베이스, 에이전트)는 옮겨지지 않으며, 머물러야 하는 이유를 먼저 설명합니다.

암스테르담에서 개발. Orq 크레딧 또는 자체 키로 쓰는 AI Gateway. EU SaaS, Enterprise에서는 VPC와 온프레미스

INFRO 계정은 셀프 서비스입니다. 카탈로그, 문서, API 계약은 공개되어 있고, 게이트웨이는 배포되어 있으며, v1 이후의 기능은 Later로 표시됩니다. 요금제와 체험

현재 상황

회사

암스테르담에서 개발. 스스로를 엔터프라이즈 AI를 위한 EU 개발 컨트롤 플레인으로 소개하며, 게이트웨이와 AI Studio 외에 에이전트 기반 Software Factory를 얼리 액세스로 제공한다고 밝힙니다.

요청을 처리하는 계정

둘 다 가능합니다. Orq 크레딧을 쓰면 Orq가 추론을 구매하고, 자체 키를 쓰면 청구가 공급자에게 남습니다. INFRO는 두 번째 방식만 있습니다. Orq 크레딧으로 실행되는 트래픽을 옮기기 전에 해당 공급자의 계정을 열고 키를 연결하세요.

실행되는 곳

기본은 Google Cloud의 EU SaaS. Enterprise에서는 AWS나 Azure의 VPC, 온프레미스 단일 Helm 차트, 또는 에어갭.

Orq는 AI 애플리케이션을 만드는 플랫폼이며 그 안에 게이트웨이가 있습니다. 플랫폼을 쓰거나 자체 경계 안에서 필요하다면 그대로 머무세요.

  • 프롬프트, 평가자, 데이터셋, 실험, 지식 베이스가 AI Studio에 있거나, 에이전트가 Orq 에이전트로 실행되는 경우(agent/<name>을 모델로 지정)입니다. INFRO에는 이 중 어느 것도 없습니다.
  • 처리가 EU 안에 머물러야 하거나, 게이트웨이를 VPC, 온프레미스, 에어갭에서 실행해야 하는 경우입니다. INFRO는 호스팅형이며 게이트웨이는 Frankfurt에서 실행되지만 이는 데이터 레지던시 통제가 아니고, 자체 호스팅은 엔터프라이즈 계약입니다.
  • Orq의 크레딧으로 라우팅하며 공급자마다 계정을 갖고 싶지 않은 경우입니다. INFRO는 사용자를 대신해 추론을 구매하지 않습니다.
  • 지연 시간 기반 또는 라운드 로빈 부하 분산이나, 공급자별 및 모델별 예산에 의존하는 경우입니다.
  • Lakera 같은 모델 판단형, Python 또는 외부 가드레일을 쓰는 경우입니다.

수정 사항을 한 행에 하나씩 정리했습니다. 여기에 없는 것은 그대로 유지됩니다.

 Orq.aiINFRO
베이스 URLhttps://my.orq.ai/v3/router, 또는 VPC와 온프레미스의 자체 호스트.https://api.infro.io/v1
키Orq API 키.서비스마다 INFRO 게이트웨이 키. 멤버는 콘솔에 따로 로그인합니다.
모델 IDopenai/gpt-5.6-terra, 모델 페이지에서 활성화.대개 그대로입니다. INFRO도 provider/model을 받습니다. 각 ID는 /models에서 확인하거나 라우트 이름을 보내세요.
필드와 헤더fallbacks: [{ model }], retry, cache: { type, ttl }, identity 또는 X-ORQ-IDENTITY-ID, thread, metadata, X-ORQ-METADATA-*.모델 ID로 된 fallbacks(최대 5개), 라우트의 재시도, cache: { ttl_seconds, namespace }, metadata { user_id, session_id, tags }.

이전 · Orq.ai

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://my.orq.ai/v3/router",
  apiKey: process.env.ORQ_API_KEY,
  defaultHeaders: { "X-ORQ-IDENTITY-ID": "user_123" },
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
  // @ts-expect-error Orq extensions
  fallbacks: [{ model: "anthropic/claude-sonnet-5.5" }],
  retry: { count: 3 },
});

이후 · INFRO

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

await client.chat.completions.create({
  model: "openai/gpt-5.6-terra",
  messages: [{ role: "user", content: "Hello" }],
  // @ts-expect-error INFRO extension
  fallbacks: ["anthropic/claude-sonnet-5.5"],
  metadata: { user_id: "user_123" },
});

ID는 `metadata.user_id`가 됩니다

Orq의 identity 객체 또는 X-ORQ-IDENTITY-ID 헤더(이미 존재하는 ID에만 요청을 귀속시킵니다)는 INFRO의 metadata.user_id가 됩니다. 최대 128자의 불투명한 자체 ID이거나 X-INFRO-User-Id 헤더입니다. 먼저 만들어야 하는 레코드는 없으며, INFRO는 이름이나 이메일을 저장하지 않습니다.

폴백은 일반 모델 ID입니다

Orq의 fallbacks는 선택적 fallback_on_codes가 있는 객체이고, INFRO의 fallbacks는 model의 모든 연결이 실패한 뒤에 시도하는 모델 ID 목록입니다. 재시도 횟수, 상태 코드, 공급자 간 순서는 라우트의 실패 규칙에서 정합니다.

라우팅 규칙은 라우트가 됩니다

Orq 라우팅 규칙은 모델이 일치하는 요청을 다시 씁니다. INFRO 라우트는 애플리케이션이 호출하는 이름입니다. 헤더와 메타데이터에 대한 조건은 라우트의 if 규칙이 되고, 폴백 또는 가중치 로드 밸런서는 우선순위 또는 가중치 대상이 됩니다.

Orq.ai의 공개 문서(2026년 10월 19일에 읽음)를 바탕으로 Orq.ai의 객체를 INFRO의 객체와 대조하고, 게이트웨이가 구현한 내용과 비교해 확인했습니다. INFRO에 없다고 표시된 행이 3개입니다.

Orq.ai그곳에서 하는 일INFRO에서
BYOK 공급자 키같은 구조AI Gateway에 연결한 공급자 키, 공급자당 여러 개.공급자 연결, 공급자당 여러 키.
Orq 크레딧해당 없음Orq는 공급자 전반의 하나의 잔액으로 추론을 구매합니다.없습니다. INFRO는 공급자 계정을 보유하지 않으므로, 자체 계정을 연결하세요.
API 키같은 구조게이트웨이용 키. 키별 예산과 게이트웨이 범위.허용 목록, IP 범위, 환경, 지출 한도를 갖춘 서비스별 게이트웨이 키.
폴백과 재시도다름상태 코드를 포함한 요청별 fallbacks와 retry.요청별 fallbacks, 라우트의 실패 규칙에서 정하는 재시도와 상태 코드.
라우팅 규칙과 부하 분산다름모델, 헤더, ID, 메타데이터, 프로젝트에 대한 CEL 규칙. 폴백, 지연 시간, 가중치, 라운드 로빈.메타데이터, 헤더, 크기에 대한 if 규칙과 우선순위 또는 가중치 대상이 있는 라우트. 지연 시간이나 라운드 로빈 전략은 없습니다.
캐시같은 구조요청별 정확 일치 캐시, TTL 지정.chat completions용 선택형 정확 일치 캐시. 네임스페이스와 TTL 지정.
예산다름워크스페이스, 프로젝트, ID, API 키, 공급자, 모델. 비용, 토큰, 분당 요청 수. 429.조직, 프로젝트, 멤버, 키, 최종 고객 단위의 달러 상한으로, 호출 전에 402로 거부합니다. 공급자별 또는 모델별 예산과 토큰 수 기반 기간 제한은 없습니다.
ID다름이름, 이메일, 태그를 가진 레코드로서의 최종 사용자. ID별 예산.각 요청의 metadata.user_id, Team 요금제부터 최종 고객 한도.
가드레일다름입력과 출력에 대한 PII, 비밀 값 탐지, 모델 판단형, Python, 외부 가드레일.조직, 프로젝트, 키 단위로 적용하는 채팅의 패턴 규칙과 프롬프트 분류기, Business 요금제.
MCP Gateway같은 구조주소 하나 뒤의 업스트림 MCP 서버, OAuth 로그인, 서버별 도구 노출.승인 및 고정된 도구와 키별 권한 부여를 갖춘 MCP 게이트웨이. Business 요금제.
프롬프트, 평가자, 실험해당 없음라우터 요청에서 쓸 수 있는 AI Studio.없음.
지식 베이스와 에이전트해당 없음게이트웨이를 통해 호출할 수 있는 관리형 검색과 에이전트.없습니다. INFRO는 사용자 자체 에이전트의 모델 호출을 라우팅합니다.

체험이나 벤치마크가 아니라 Orq.ai의 공개 문서를 저희가 읽은 결과입니다. 잘못 읽은 부분이 있으면 알려 주세요. 해당 행을 수정하겠습니다.

INFRO가 하지 않는 것

  • 플랫폼 잔액으로 고객 대신 추론을 구매하는 일.
  • 프롬프트 관리, 평가자, 실험, 지식 베이스, 관리형 에이전트.
  • 지연 시간 기반 또는 라운드 로빈 로드 밸런싱.
  • 공급자별 또는 모델별 예산, 또는 토큰 수 기반 예산.
  • 모델 판단형, Python 또는 외부 가드레일.
  • EU 전용 처리, 또는 엔터프라이즈 계약 없이 고객 VPC에서 실행.

이어지지 않는 것

  • 트레이스, 스레드, ID 레코드. 가져오기 도구는 없습니다.
  • 라우팅 규칙, 예산, 가드레일 규칙이 객체로 존재합니다. 다시 만드세요.
  • 프롬프트, 데이터셋, 평가자, 지식 베이스는 AI Studio에 남습니다.

질문

Orq.ai도 BYOK인가요?
그럴 수 있습니다. Orq는 자체 크레딧이나 고객의 공급자 키로 실행되고, INFRO는 고객의 공급자 계정에서만 실행되며 모델 지출의 0%를 가져갑니다.
AI Studio는 유지하고 게이트웨이만 옮길 수 있나요?
예, 애플리케이션이 모델을 직접 호출하는 경우에는 그 호출을 INFRO로 향하게 하세요. Orq의 관리형 프롬프트, 에이전트, 지식 베이스를 쓰는 호출은 Orq의 라우터를 거치며 그대로 남습니다.
INFRO 비용은 얼마인가요?
요금제별 정액 구독, 14일 체험 포함. 모델 사용료는 공급자가 직접 청구합니다.

저희와 함께, 또는 직접 옮기세요

마이그레이션 프로그램에서는 통화로 Orq.ai 설정을 INFRO 연결, 라우트, 예산에 매핑하고 첫 서비스를 함께 옮깁니다. 공급자는 계속 고객에게 직접 청구하며, INFRO는 구독이고 모델 지출에 0%를 더합니다.

출처

이 페이지에서 Orq.ai에 관한 모든 서술은 2026년 10월 19일에 읽은 다음 자료 중 하나에서 나왔습니다. 체험, 벤치마크, 대화에서 추론한 것은 없습니다.