跳到正文

迁移指南从 Google Vertex AI

从只用 Vertex AI,到把 Vertex 作为你的提供商之一

Vertex AI 现在是 Gemini Enterprise Agent Platform 的一部分,在你的 Google Cloud 项目中提供 Gemini 和 Anthropic 的 Claude,由 Google 计费。INFRO 使用该项目中的服务账号调用它。你的应用只调用一个端点,就能在 Vertex 上的 Claude 与 Anthropic 上的 Claude 之间、或 Vertex 上的 Gemini 与 Google AI 上的 Gemini 之间故障转移,并在每次调用之前检查预算。

2026-04-22 更名为 Gemini Enterprise Agent Platform;主机仍为 aiplatform.googleapis.com

INFRO 账号可自助开通。 模型目录、文档和 API 契约已公开,网关已部署,v1 之后的所有功能都标注为“后续”。 套餐与试用

现状

更名

Google 的版本说明称,2026-04-22 Vertex AI 成为 Gemini Enterprise Agent Platform 的一部分;Vertex AI API 现在称为 Agent Platform API。文档中记载的仍是 aiplatform.googleapis.com 主机。

SDK 变更

Google Gen AI SDK 现在使用 enterprise=True,vertexai=True 作为旧版标志保留。2026-09-18,较早的 Python SDK 迁移到了 google-cloud-agentplatform。

INFRO 调用什么

你项目中位于 locations/global 的 Vertex AI,使用由服务账号密钥签发的短期令牌,该密钥只需 roles/aiplatform.user。每个 Claude 模型都必须在其 Model Garden 卡片上启用。

如果你运行的一切都在 Google Cloud 中,而且 Google 的工具已经能回答你的问题,那就继续使用。以下是具体情况。

  • 你的组织禁止使用服务账号密钥。INFRO 的 Vertex 连接需要使用一个;它不使用工作负载身份联合。
  • 你使用显式上下文缓存(caches.create 和 cached_content)、接地,或聊天格式无法承载的其他 Gemini 原生功能。
  • 你依赖 labels 进入 Cloud Billing 来做成本分摊。INFRO 把归因信息记录在它自己的 metadata 中。
  • 你需要区域或多区域端点来满足数据驻留。INFRO 调用的是全球位置;数据驻留在路线图上。

需要的修改,每项一行。未在此列出的内容都保持不变。

 Google Vertex AIINFRO
基础 URLaiplatform.googleapis.com/v1/projects/{project}/locations/{location}/...https://api.infro.io/v1(OpenAI 格式),Anthropic SDK 使用 https://api.infro.io。
凭据来自 Application Default Credentials 的一小时访问令牌。一个 INFRO 网关密钥。INFRO 持有服务账号密钥,加密封存,并自行签发短期令牌。
模型 IDgemini-3.8-flash, google/gemini-3.8-flash, claude-sonnet-5-5.google/gemini-3.8-flash、anthropic/claude-sonnet-5.5;Anthropic SDK 在 /v1/messages 上可以继续使用 claude-sonnet-5-5。
字段labels,合作伙伴模型使用 X-Vertex-AI-Labels。metadata { user_id, session_id, tags },由 INFRO 记录,不发送给 Google。

之前 · Vertex AI

import { GoogleGenAI } from "@google/genai";

const ai = new GoogleGenAI({
  enterprise: true, // formerly vertexai: true
  project: "my-project",
  location: "global",
});

const response = await ai.models.generateContent({
  model: "gemini-3.8-flash",
  contents: "Hello",
  config: { labels: { team: "search" } },
});

之后 · INFRO

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

await client.chat.completions.create({
  model: "google/gemini-3.8-flash",
  messages: [{ role: "user", content: "Hello" }],
  // @ts-expect-error INFRO extension
  metadata: { tags: { team: "search" } },
});

Gemini 改用 OpenAI 格式

基于 Gen AI SDK 的代码要把请求格式改为 Chat Completions。该格式不支持的功能(如显式上下文缓存)是让这些调用保持直连的理由。

Claude 保持 Anthropic 的格式

在 Vertex 连接上,/v1/messages 原样发送请求体:包括 thinking 块、cache_control 和工具。一条路由规则可以对同一个 Claude 模型把 Vertex 放在第一位、Anthropic 放在第二位。

一个服务账号

只为它授予 roles/aiplatform.user。INFRO 每次调用时用它签发一小时的令牌,不读取项目中的其他任何内容。

Google Vertex AI 的对象与 INFRO 的对照,依据 2026年10月19日 阅读的 Google Vertex AI 公开文档,并已按网关实际实现的内容核对。 有一行显示 INFRO 没有对应项。

Google Vertex AI它在那里的作用在 INFRO 中
项目和凭据不同你的 Google Cloud 项目;ADC 或服务账号令牌。一个持有服务账号密钥的 Vertex 连接,加密封存;每次调用签发令牌。不支持工作负载身份联合。
Gemini `generateContent`不同通过 Gen AI SDK 使用原生 Gemini API。通过 chat completions 上的 OpenAI 格式提供;仅限原生的功能无法沿用。
Claude `rawPredict`形式相同Vertex 上的 Anthropic Messages 请求体。/v1/messages,原样发送到 Vertex。
全球和区域端点不同选择全球、某个区域或多区域。仅限全球位置。
标签不同转发到 Cloud Billing 的成本标签。在 INFRO 的请求日志和用量中按项目、密钥、用户和标签进行的 metadata 归因。
上下文缓存无对应通过 cached_content 创建和引用的显式缓存。没有对应功能。Claude 的 cache_control 原样到达 Vertex;INFRO 增加了精确匹配的响应缓存。
配额和 Provisioned Throughput不同Dynamic Shared Quota、Standard PayGo 层级、Provisioned Throughput。Google 一侧不变;429 遵循路由规则的故障规则。INFRO 增加美元预算。
故障转移不同全球端点会选择一个区域;跨提供商则由你的代码负责。跨 Vertex、Anthropic、Google AI 等的路由规则,可按类型设置故障规则。

这是我们对 Google Vertex AI 已发布文档的理解,而非试用或基准测试。如果我们理解有误,告诉我们,我们会修正那一行。

INFRO 不做的事

  • 使用工作负载身份联合或 ADC;它需要服务账号密钥。
  • 调用区域或多区域 Vertex 端点。
  • 支持 Gemini 原生功能,如显式上下文缓存或接地。
  • 转发计费标签,或与 Google Cloud 计费对账。

哪些无法迁移过来

  • Cloud Logging 和 Monitoring 的历史记录;它们留在 Google Cloud 中。
  • 上下文缓存;它们留在你的项目中。

问题

INFRO 能路由 Vertex AI 上的 Claude 吗?
能。使用服务账号密钥连接 Vertex AI,在 Model Garden 中启用 Claude 模型,然后调用 /v1/messages 或 chat completions。
用量由谁向我收费?
Google Cloud,在你自己的项目中。INFRO 是订阅制,对模型支出加价 0%。
INFRO 需要哪些权限?
一个拥有 roles/aiplatform.user 的服务账号。INFRO 只用它来调用 Vertex AI。

和我们一起迁移,或自行迁移

迁移计划会在一次通话中把你的 Google Vertex AI 设置映射为 INFRO 的连接、路由规则和预算,并和你一起迁移第一个服务。你的提供商继续直接向你收费;INFRO 是一项订阅,对模型支出零加价。

来源

本页关于 Google Vertex AI 的每一项陈述都来自以下来源之一,阅读于 2026年10月19日。没有任何内容是从试用、基准测试或交谈中推断的。