迁移指南从 Google Vertex AI
从只用 Vertex AI,到把 Vertex 作为你的提供商之一
Vertex AI 现在是 Gemini Enterprise Agent Platform 的一部分,在你的 Google Cloud 项目中提供 Gemini 和 Anthropic 的 Claude,由 Google 计费。INFRO 使用该项目中的服务账号调用它。你的应用只调用一个端点,就能在 Vertex 上的 Claude 与 Anthropic 上的 Claude 之间、或 Vertex 上的 Gemini 与 Google AI 上的 Gemini 之间故障转移,并在每次调用之前检查预算。
2026-04-22 更名为 Gemini Enterprise Agent Platform;主机仍为 aiplatform.googleapis.com
INFRO 账号可自助开通。 模型目录、文档和 API 契约已公开,网关已部署,v1 之后的所有功能都标注为“后续”。 套餐与试用
现状
更名
Google 的版本说明称,2026-04-22 Vertex AI 成为 Gemini Enterprise Agent Platform 的一部分;Vertex AI API 现在称为 Agent Platform API。文档中记载的仍是 aiplatform.googleapis.com 主机。
SDK 变更
Google Gen AI SDK 现在使用 enterprise=True,vertexai=True 作为旧版标志保留。2026-09-18,较早的 Python SDK 迁移到了 google-cloud-agentplatform。
INFRO 调用什么
你项目中位于 locations/global 的 Vertex AI,使用由服务账号密钥签发的短期令牌,该密钥只需 roles/aiplatform.user。每个 Claude 模型都必须在其 Model Garden 卡片上启用。
如果你运行的一切都在 Google Cloud 中,而且 Google 的工具已经能回答你的问题,那就继续使用。以下是具体情况。
- 你的组织禁止使用服务账号密钥。INFRO 的 Vertex 连接需要使用一个;它不使用工作负载身份联合。
- 你使用显式上下文缓存(
caches.create和cached_content)、接地,或聊天格式无法承载的其他 Gemini 原生功能。 - 你依赖
labels进入 Cloud Billing 来做成本分摊。INFRO 把归因信息记录在它自己的metadata中。 - 你需要区域或多区域端点来满足数据驻留。INFRO 调用的是全球位置;数据驻留在路线图上。
需要的修改,每项一行。未在此列出的内容都保持不变。
| Google Vertex AI | INFRO | |
|---|---|---|
| 基础 URL | aiplatform.googleapis.com/v1/projects/{project}/locations/{location}/... | https://api.infro.io/v1(OpenAI 格式),Anthropic SDK 使用 https://api.infro.io。 |
| 凭据 | 来自 Application Default Credentials 的一小时访问令牌。 | 一个 INFRO 网关密钥。INFRO 持有服务账号密钥,加密封存,并自行签发短期令牌。 |
| 模型 ID | gemini-3.8-flash, google/gemini-3.8-flash, claude-sonnet-5-5. | google/gemini-3.8-flash、anthropic/claude-sonnet-5.5;Anthropic SDK 在 /v1/messages 上可以继续使用 claude-sonnet-5-5。 |
| 字段 | labels,合作伙伴模型使用 X-Vertex-AI-Labels。 | metadata { user_id, session_id, tags },由 INFRO 记录,不发送给 Google。 |
之前 · Vertex AI
import { GoogleGenAI } from "@google/genai";
const ai = new GoogleGenAI({
enterprise: true, // formerly vertexai: true
project: "my-project",
location: "global",
});
const response = await ai.models.generateContent({
model: "gemini-3.8-flash",
contents: "Hello",
config: { labels: { team: "search" } },
});之后 · INFRO
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.infro.io/v1",
apiKey: process.env.INFRO_API_KEY,
});
await client.chat.completions.create({
model: "google/gemini-3.8-flash",
messages: [{ role: "user", content: "Hello" }],
// @ts-expect-error INFRO extension
metadata: { tags: { team: "search" } },
});Gemini 改用 OpenAI 格式
基于 Gen AI SDK 的代码要把请求格式改为 Chat Completions。该格式不支持的功能(如显式上下文缓存)是让这些调用保持直连的理由。
Claude 保持 Anthropic 的格式
在 Vertex 连接上,/v1/messages 原样发送请求体:包括 thinking 块、cache_control 和工具。一条路由规则可以对同一个 Claude 模型把 Vertex 放在第一位、Anthropic 放在第二位。
一个服务账号
只为它授予 roles/aiplatform.user。INFRO 每次调用时用它签发一小时的令牌,不读取项目中的其他任何内容。
Google Vertex AI 的对象与 INFRO 的对照,依据 2026年10月19日 阅读的 Google Vertex AI 公开文档,并已按网关实际实现的内容核对。 有一行显示 INFRO 没有对应项。
| Google Vertex AI | 它在那里的作用 | 在 INFRO 中 |
|---|---|---|
| 项目和凭据不同 | 你的 Google Cloud 项目;ADC 或服务账号令牌。 | 一个持有服务账号密钥的 Vertex 连接,加密封存;每次调用签发令牌。不支持工作负载身份联合。 |
| Gemini `generateContent`不同 | 通过 Gen AI SDK 使用原生 Gemini API。 | 通过 chat completions 上的 OpenAI 格式提供;仅限原生的功能无法沿用。 |
| Claude `rawPredict`形式相同 | Vertex 上的 Anthropic Messages 请求体。 | /v1/messages,原样发送到 Vertex。 |
| 全球和区域端点不同 | 选择全球、某个区域或多区域。 | 仅限全球位置。 |
| 标签不同 | 转发到 Cloud Billing 的成本标签。 | 在 INFRO 的请求日志和用量中按项目、密钥、用户和标签进行的 metadata 归因。 |
| 上下文缓存无对应 | 通过 cached_content 创建和引用的显式缓存。 | 没有对应功能。Claude 的 cache_control 原样到达 Vertex;INFRO 增加了精确匹配的响应缓存。 |
| 配额和 Provisioned Throughput不同 | Dynamic Shared Quota、Standard PayGo 层级、Provisioned Throughput。 | Google 一侧不变;429 遵循路由规则的故障规则。INFRO 增加美元预算。 |
| 故障转移不同 | 全球端点会选择一个区域;跨提供商则由你的代码负责。 | 跨 Vertex、Anthropic、Google AI 等的路由规则,可按类型设置故障规则。 |
这是我们对 Google Vertex AI 已发布文档的理解,而非试用或基准测试。如果我们理解有误,告诉我们,我们会修正那一行。
INFRO 不做的事
- 使用工作负载身份联合或 ADC;它需要服务账号密钥。
- 调用区域或多区域 Vertex 端点。
- 支持 Gemini 原生功能,如显式上下文缓存或接地。
- 转发计费标签,或与 Google Cloud 计费对账。
哪些无法迁移过来
- Cloud Logging 和 Monitoring 的历史记录;它们留在 Google Cloud 中。
- 上下文缓存;它们留在你的项目中。
问题
- INFRO 能路由 Vertex AI 上的 Claude 吗?
- 能。使用服务账号密钥连接 Vertex AI,在 Model Garden 中启用 Claude 模型,然后调用
/v1/messages或 chat completions。 - 用量由谁向我收费?
- Google Cloud,在你自己的项目中。INFRO 是订阅制,对模型支出加价 0%。
- INFRO 需要哪些权限?
- 一个拥有
roles/aiplatform.user的服务账号。INFRO 只用它来调用 Vertex AI。
来源
本页关于 Google Vertex AI 的每一项陈述都来自以下来源之一,阅读于 2026年10月19日。没有任何内容是从试用、基准测试或交谈中推断的。
- Google Cloud — Agent Platform release notes阅读于 2026年10月19日
- Google Cloud — OpenAI libraries on Agent Platform阅读于 2026年10月19日
- Google Cloud — Use Claude阅读于 2026年10月19日
- Google Cloud — Endpoint locations阅读于 2026年10月19日
- Google Cloud — Labels on API calls阅读于 2026年10月19日
- GitHub — googleapis/python-genai阅读于 2026年10月19日
- GitHub — googleapis/js-genai阅读于 2026年10月19日