MigrationsleitfädenVon Google Vertex AI
Von Vertex AI allein zu Vertex als einem Ihrer Anbieter
Vertex AI, jetzt Teil der Gemini Enterprise Agent Platform, stellt Gemini und Claude von Anthropic in Ihrem Google-Cloud-Projekt bereit, abgerechnet von Google. INFRO ruft es mit einem Dienstkonto aus diesem Projekt auf. Ihre App ruft einen Endpunkt auf und kann zwischen Claude auf Vertex und Claude bei Anthropic oder Gemini auf Vertex und Gemini bei Google AI ausweichen, mit Budgetprüfung vor jedem Aufruf.
Am 2026-04-22 in Gemini Enterprise Agent Platform umbenannt; dieselben Hosts aiplatform.googleapis.com
INFRO-Konten sind per Selbstregistrierung verfügbar. Katalog, Dokumentation und API-Vertrag sind öffentlich, das Gateway ist bereitgestellt, und alles über v1 hinaus ist als „Später“ markiert. Tarife und Testphase
Wo die Dinge stehen
Die Umbenennung
Laut den Release Notes von Google wurde Vertex AI am 2026-04-22 Teil der Gemini Enterprise Agent Platform; die Vertex AI API heißt jetzt Agent Platform API. Die Hosts aiplatform.googleapis.com sind weiterhin die dokumentierten.
SDK-Änderungen
Das Google Gen AI SDK nimmt jetzt enterprise=True an und behält vertexai=True als Legacy-Flag. Am 2026-09-18 wurde das ältere Python SDK nach google-cloud-agentplatform verschoben.
Was INFRO aufruft
Vertex AI unter locations/global in Ihrem Projekt, mit kurzlebigen Tokens, signiert mit einem Dienstkontoschlüssel, der nur roles/aiplatform.user braucht. Jedes Claude-Modell muss auf seiner Model-Garden-Karte aktiviert sein.
Wenn alles, was Sie betreiben, in Google Cloud läuft und die Tools von Google Ihre Fragen bereits beantworten, bleiben Sie dabei. Das sind die konkreten Fälle.
- Ihre Organisation verbietet Dienstkontoschlüssel. Die Vertex-Verbindung von INFRO nutzt einen; Workload Identity Federation unterstützt sie nicht.
- Sie nutzen explizite Kontext-Caches (
caches.createundcached_content), Grounding oder andere Gemini-native Funktionen, die die Chat-Formate nicht abbilden. - Sie verlassen sich darauf, dass
labelsfür die Kostenzuordnung Cloud Billing erreichen. INFRO erfasst die Zuordnung in seinen eigenenmetadata. - Sie brauchen für die Datenresidenz einen regionalen oder multiregionalen Endpunkt. INFRO ruft den globalen Standort auf; Datenresidenz steht auf der Roadmap.
Die Änderungen, je eine Zeile. Alles, was hier nicht aufgeführt ist, bleibt, wie es ist.
| Google Vertex AI | INFRO | |
|---|---|---|
| Basis-URL | aiplatform.googleapis.com/v1/projects/{project}/locations/{location}/... | https://api.infro.io/v1 (OpenAI-Format), https://api.infro.io für das Anthropic SDK. |
| Zugangsdaten | Ein einstündiges Zugriffstoken aus Application Default Credentials. | Ein INFRO-Gateway-Schlüssel. INFRO hält den Dienstkontoschlüssel, versiegelt, und signiert seine eigenen kurzlebigen Tokens. |
| Modell-ID | gemini-3.8-flash, google/gemini-3.8-flash, claude-sonnet-5-5. | google/gemini-3.8-flash, anthropic/claude-sonnet-5.5; das Anthropic SDK kann auf /v1/messages bei claude-sonnet-5-5 bleiben. |
| Felder | labels oder X-Vertex-AI-Labels für Partnermodelle. | metadata { user_id, session_id, tags }, von INFRO erfasst, nicht an Google gesendet. |
Vorher · Vertex AI
import { GoogleGenAI } from "@google/genai";
const ai = new GoogleGenAI({
enterprise: true, // formerly vertexai: true
project: "my-project",
location: "global",
});
const response = await ai.models.generateContent({
model: "gemini-3.8-flash",
contents: "Hello",
config: { labels: { team: "search" } },
});Nachher · INFRO
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.infro.io/v1",
apiKey: process.env.INFRO_API_KEY,
});
await client.chat.completions.create({
model: "google/gemini-3.8-flash",
messages: [{ role: "user", content: "Hello" }],
// @ts-expect-error INFRO extension
metadata: { tags: { team: "search" } },
});Gemini wechselt ins OpenAI-Format
Code mit dem Gen AI SDK stellt das Anfrageformat auf Chat Completions um. Funktionen, die dieses Format nicht abbildet, etwa explizite Kontext-Caches, sind ein Grund, diese Aufrufe direkt zu belassen.
Claude bleibt im Format von Anthropic
Auf einer Vertex-Verbindung sendet /v1/messages den Body unverändert: Thinking-Blöcke, cache_control und Tools inklusive. Eine Route kann für dasselbe Claude-Modell Vertex an erste und Anthropic an zweite Stelle setzen.
Ein Dienstkonto
Erteilen Sie ihm nur roles/aiplatform.user. INFRO signiert damit pro Aufruf einstündige Tokens und liest sonst nichts im Projekt.
Die Objekte von Google Vertex AI gegenüber denen von INFRO, anhand der öffentlichen Dokumentation von Google Vertex AI, gelesen am 19. Oktober 2026, und geprüft anhand dessen, was das Gateway implementiert. Eine Zeile besagt, dass INFRO nichts hat.
| Google Vertex AI | Was es dort tut | In INFRO |
|---|---|---|
| Projekt und Zugangsdatenanders | Ihr Google-Cloud-Projekt; ADC- oder Dienstkonto-Tokens. | Eine Vertex-Verbindung mit einem Dienstkontoschlüssel, versiegelt; Tokens pro Aufruf signiert. Keine Workload Identity Federation. |
| Gemini `generateContent`anders | Die native Gemini API über das Gen AI SDK. | Über das OpenAI-Format bei Chat Completions bereitgestellt; rein native Funktionen werden nicht durchgereicht. |
| Claude `rawPredict`gleiche Form | Der Messages-Body von Anthropic auf Vertex. | /v1/messages, unverändert an Vertex gesendet. |
| Globale und regionale Endpunkteanders | Global, eine Region oder eine Multi-Region wählen. | Nur der globale Standort. |
| Labelsanders | Kosten-Labels, an Cloud Billing weitergegeben. | Zuordnung über metadata im Anfrageprotokoll und in der Nutzung von INFRO, nach Projekt, Schlüssel, Nutzer und Tag. |
| Kontext-Cachingnichts | Explizite Caches, erstellt und referenziert über cached_content. | Nichts Vergleichbares. cache_control von Claude erreicht Vertex unverändert; INFRO ergänzt einen Antwort-Cache für exakte Treffer. |
| Kontingent und Provisioned Throughputanders | Dynamic Shared Quota, Standard-PayGo-Stufen, Provisioned Throughput. | Auf Seiten von Google unverändert; ein 429 folgt der Fehlerregel der Route. INFRO ergänzt Budgets in Dollar. |
| Failoveranders | Der globale Endpunkt wählt eine Region; über Anbieter hinweg ist Sache Ihres Codes. | Routen über Vertex, Anthropic, Google AI und andere, mit Fehlerregeln pro Art. |
Unsere Lesart der veröffentlichten Dokumentation von Google Vertex AI, kein Test und kein Benchmark. Wenn wir etwas falsch gelesen haben, sagen Sie es uns, und wir korrigieren die Zeile.
Was INFRO nicht tut
- Workload Identity Federation oder ADC verwenden; es braucht einen Dienstkontoschlüssel.
- Regionale oder multiregionale Vertex-Endpunkte aufrufen.
- Gemini-native Funktionen wie explizite Kontext-Caches oder Grounding durchreichen.
- Abrechnungs-Labels weitergeben oder mit der Google-Cloud-Abrechnung abgleichen.
Was nicht übernommen wird
- Verlauf aus Cloud Logging und Monitoring; er bleibt in Google Cloud.
- Kontext-Caches; sie bleiben in Ihrem Projekt.
Fragen
- Kann INFRO Claude auf Vertex AI routen?
- Ja. Verbinden Sie Vertex AI mit einem Dienstkontoschlüssel, aktivieren Sie das Claude-Modell im Model Garden und rufen Sie
/v1/messagesoder Chat Completions auf. - Wer rechnet die Nutzung mit mir ab?
- Google Cloud, in Ihrem eigenen Projekt. INFRO ist ein Abonnement und schlägt 0 % auf Modellausgaben auf.
- Welche Berechtigungen braucht INFRO?
- Ein Dienstkonto mit
roles/aiplatform.user. INFRO nutzt es nur, um Vertex AI aufzurufen.
Wechseln Sie mit uns oder auf eigene Faust
Das Migrationsprogramm überträgt Ihr Google Vertex AI-Setup in einem Gespräch auf INFRO-Verbindungen, -Routen und -Budgets und zieht den ersten Dienst gemeinsam mit Ihnen um. Ihre Anbieter rechnen weiterhin direkt mit Ihnen ab; INFRO ist ein Abonnement und schlägt 0 % auf Modellausgaben auf.
Quellen
Jede Aussage auf dieser Seite über Google Vertex AI stammt aus einer dieser Quellen, gelesen am 19. Oktober 2026. Nichts ist aus einem Test, einem Benchmark oder einem Gespräch abgeleitet.
- Google Cloud — Agent Platform release notesgelesen am 19. Okt. 2026
- Google Cloud — OpenAI libraries on Agent Platformgelesen am 19. Okt. 2026
- Google Cloud — Use Claudegelesen am 19. Okt. 2026
- Google Cloud — Endpoint locationsgelesen am 19. Okt. 2026
- Google Cloud — Labels on API callsgelesen am 19. Okt. 2026
- GitHub — googleapis/python-genaigelesen am 19. Okt. 2026
- GitHub — googleapis/js-genaigelesen am 19. Okt. 2026