본문으로 건너뛰기

마이그레이션 가이드Vercel AI Gateway에서

Vercel AI Gateway에서, 모델 ID는 그대로

Vercel AI Gateway는 AI SDK의 기본 공급자입니다. openai/gpt-6-astra 같은 모델 문자열이 Vercel 키나 OIDC 토큰으로 이곳에 도달하고, Vercel의 시스템 자격 증명이나 고객의 키로 처리됩니다. INFRO는 같은 vendor/model ID를 사용하므로, 수정할 것은 모델 이름이 아니라 공급자와 옵션입니다.

모든 Vercel 요금제에서 정식 제공. 문서는 2026-10-07까지 업데이트됨

INFRO 계정은 셀프 서비스입니다. 카탈로그, 문서, API 계약은 공개되어 있고, 게이트웨이는 배포되어 있으며, v1 이후의 기능은 Later로 표시됩니다. 요금제와 체험

현재 상황

현재 상태

모든 요금제에서 제공되는 현행 Vercel 제품. 사용할 수 있는 모델에 대한 팀 라우팅 규칙은 2026-07-02에 출시되었습니다.

요청을 처리하는 계정

기본적으로 Vercel의 시스템 자격 증명을 사용하며 AI Gateway 크레딧으로 지불합니다. Vercel 문서에 따르면 BYOK에서 고객 자격 증명으로 실패한 요청은 시스템 자격 증명으로 재시도되어 크레딧으로 청구되며, BYOK 지출은 예산에 집계되지 않습니다.

INFRO가 따라 하지 않는 것

INFRO는 AI Gateway 프로토콜을 구현하지 않으므로 AI SDK의 gateway 공급자는 INFRO를 가리킬 수 없습니다. AI SDK에 포함된 OpenAI 호환 공급자로 바꾸세요.

앱이 Vercel에서 실행되고 게이트웨이가 제 역할을 하고 있다면, 그 통합을 넘어서기 어렵습니다. 다음 중 하나라도 해당하면 그대로 두세요.

  • 배포에서 받은 Vercel OIDC 토큰으로 인증하며 게이트웨이 키를 전혀 쓰고 싶지 않습니다. INFRO는 자체 키만 받습니다.
  • Realtime, 다른 공급자의 임베딩, 또는 AI SDK의 게이트웨이 전용 기능을 사용합니다. INFRO는 OpenAI, Azure OpenAI, Mistral, OpenAI 호환 연결에서 임베딩을 제공하며, Realtime은 제공하지 않습니다.
  • 비용, 첫 토큰까지의 시간, 처리량으로 공급자를 고르고 싶습니다(sort). INFRO에는 요청별 정렬이 없습니다.
  • 공급자마다 계정 없이 모델에 접근하고 싶습니다. INFRO는 고객이 보유한 계정에서만 실행됩니다.
  • 요청별 데이터 무보관 라우팅이나 inferenceRegion이 필요합니다. INFRO에는 둘 다 없으며, 데이터 상주는 로드맵에 있습니다.

수정 사항을 한 행에 하나씩 정리했습니다. 여기에 없는 것은 그대로 유지됩니다.

 Vercel AI GatewayINFRO
베이스 URLhttps://ai-gateway.vercel.sh/v1 또는 AI SDK의 기본 gateway 공급자.AI SDK에서 createOpenAI({ baseURL })로 https://api.infro.io/v1.
키AI_GATEWAY_API_KEY 또는 Vercel OIDC 토큰.INFRO 게이트웨이 키인 INFRO_API_KEY. 공급자 자격 증명은 연결로 INFRO에 옮겨집니다.
모델 IDanthropic/claude-opus-5anthropic/claude-opus-5, 변경 없음. AI SDK에서는 infro.chat(id)를 호출하세요. 공급자를 그냥 호출하면 Responses API를 대상으로 합니다.
옵션providerOptions.gateway { order, only, models, user, tags }, ai-reporting-* 헤더.순서는 라우트, only는 routing.providers, 모델은 fallbacks, 사용자와 태그는 metadata { user_id, tags }.

이전 · Vercel AI Gateway

import { generateText } from "ai";

const { text } = await generateText({
  model: "anthropic/claude-opus-5",
  prompt: "Hello",
  providerOptions: {
    gateway: {
      order: ["vertex", "anthropic"],
      user: "user_123",
      tags: ["feature:chat"],
    },
  },
});

이후 · INFRO

import { createOpenAI } from "@ai-sdk/openai";
import { generateText } from "ai";

const infro = createOpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

const { text } = await generateText({
  // A route named "chat" holds the order: Vertex, then Anthropic.
  model: infro.chat("chat"),
  prompt: "Hello",
  headers: { "X-INFRO-User-Id": "user_123", "X-INFRO-Feature": "chat" },
});

그냥 호출하지 말고 `.chat()` 사용

createOpenAI(...)(id)는 OpenAI의 Responses API를 대상으로 합니다. 모든 INFRO 연결이 제공하는 Chat Completions에는 infro.chat(id)를 사용하세요. /v1/responses도 제공되지만 매 턴 전체 대화가 필요합니다.

공급자 슬러그가 다릅니다

Vercel의 vertex와 bedrock은 routing.providers에서 INFRO의 google-vertex와 aws-bedrock입니다. 순서는 요청마다가 아니라 콘솔의 라우트에서 설정합니다.

예산은 모든 요청을 봅니다

모든 INFRO 요청은 고객 자신의 계정에서 실행되므로, 모든 요청이 예산에 집계됩니다. 예산은 상한에서 402 budget_exceeded로 거부합니다.

Vercel AI Gateway의 공개 문서(2026년 10월 19일에 읽음)를 바탕으로 Vercel AI Gateway의 객체를 INFRO의 객체와 대조하고, 게이트웨이가 구현한 내용과 비교해 확인했습니다. INFRO에 없다고 표시된 행이 2개입니다.

Vercel AI Gateway그곳에서 하는 일INFRO에서
AI Gateway API 키와 OIDC다름팀 키 또는 Vercel OIDC 토큰. 키에는 예산과 만료일이 있습니다.지출 한도, 모델 허용 목록, 공급자 목록, IP 범위, 환경을 갖추고 교체하거나 끌 수 있는 게이트웨이 키. OIDC 토큰 교환은 없습니다.
시스템 자격 증명과 BYOK다름기본적으로 Vercel의 공급자 계정. 고객 자격 증명은 선택이며, 시스템 자격 증명으로 폴백합니다.고객의 연결만 사용하며, 공유 풀은 절대 쓰지 않습니다. 모든 공급자가 직접 청구합니다.
`order`, `only`다름요청마다 공급자를 순서대로 시도하거나 일부로 제한.라우트가 순서와 실패 규칙을 가지며, routing.providers가 요청별로 제한합니다.
비용, TTFT, TPS 기준 `sort`해당 없음비용이나 속도로 요청마다 공급자 선택.없음. 라우트의 순서나 가중치가 결정합니다.
모델 폴백같은 구조models, 순서대로 시도.fallbacks, 최대 5개.
라우팅 규칙같은 구조사용할 수 있는 모델에 대한 팀 규칙.조직, 프로젝트, 키별 허용 및 차단 목록. 벤더 전체 단위도 가능합니다.
예산같은 구조팀, 프로젝트, 키, 사용자별 한도. 초과 시 402. BYOK 지출은 제외.조직, 프로젝트, 멤버, 키, 최종 고객별 예산. 공급자 호출 전에 402. 모든 요청이 집계됩니다.
맞춤 보고같은 구조요청별 사용자와 태그. 사용자, 모델, 태그, 공급자별로 묶는 보고서 API.모든 요청의 metadata.user_id와 tags, 프로젝트·키·모델·사용자·태그별 사용량, 내보내기.
자동 프롬프트 캐싱다름caching: 'auto'가 공급자 캐시 마커를 추가합니다. 세션 어피니티 헤더.공급자 프롬프트 캐싱은 공급자가 정의한 대로 작동하며, /v1/messages에서 cache_control은 작성된 그대로 Anthropic에 도달합니다. INFRO는 마커를 추가하지 않습니다. 이와 별도로 선택형 정확 일치 응답 캐시가 있습니다.
Trace Drains같은 구조사용 중인 도구로 보내는 OpenTelemetry 트레이스.요청 경로에서 OpenTelemetry 수집기로 보내는 스팬.
임베딩과 Realtime다름게이트웨이가 제공합니다.OpenAI, Azure OpenAI, Mistral, OpenAI 호환 연결의 임베딩. 같은 모델로만 페일오버합니다. Realtime은 제공하지 않습니다.
ZDR과 추론 리전해당 없음요청별 데이터 무보관 라우팅과 inferenceRegion.제공하지 않습니다. 공급자의 데이터 보관은 고객과 공급자 간의 계약을 따르며, 데이터 상주는 로드맵에 있습니다.

체험이나 벤치마크가 아니라 Vercel AI Gateway의 공개 문서를 저희가 읽은 결과입니다. 잘못 읽은 부분이 있으면 알려 주세요. 해당 행을 수정하겠습니다.

INFRO가 하지 않는 것

  • AI Gateway 프로토콜이나 AI SDK의 gateway 공급자 구현.
  • Vercel OIDC 토큰 수락.
  • Realtime 제공, 또는 OpenAI, Azure OpenAI, Mistral, OpenAI 호환 엔드포인트 외 공급자의 임베딩 제공.
  • 비용이나 속도로 요청마다 공급자 정렬.
  • 자체 공급자 계정 없이 모델 접근 제공.

이어지지 않는 것

  • 요청 로그와 맞춤 보고서. 가져오기 도구는 없습니다.
  • AI Gateway 크레딧. Vercel에 남습니다.
  • 예산과 라우팅 규칙. INFRO 예산과 허용 목록으로 다시 만드세요.

질문

모델 ID를 바꿔야 하나요?
아니요. 둘 다 vendor/model을 사용합니다. 예: anthropic/claude-opus-5. INFRO 연결이 제공하는 모델은 GET /v1/models에서 확인하세요.
AI SDK가 INFRO와 작동하나요?
네, @ai-sdk/openai의 createOpenAI에 baseURL: https://api.infro.io/v1을 지정하고 infro.chat(modelId)를 호출하면 됩니다.
모델 사용료는 누가 청구하나요?
고객의 공급자가 고객의 계정으로 직접 청구합니다. INFRO는 모델 지출에 0% 가산인 구독입니다.

저희와 함께, 또는 직접 옮기세요

마이그레이션 프로그램에서는 통화로 Vercel AI Gateway 설정을 INFRO 연결, 라우트, 예산에 매핑하고 첫 서비스를 함께 옮깁니다. 공급자는 계속 고객에게 직접 청구하며, INFRO는 구독이고 모델 지출에 0%를 더합니다.

14일 체험 시작 마이그레이션 세션 예약INFRO vs Vercel AI Gateway빠른 시작 읽기

출처

이 페이지에서 Vercel AI Gateway에 관한 모든 서술은 2026년 10월 19일에 읽은 다음 자료 중 하나에서 나왔습니다. 체험, 벤치마크, 대화에서 추론한 것은 없습니다.