Zum Inhalt springen

MigrationsleitfädenVon Azure OpenAI

Von Azure OpenAI allein zu Azure als einem Ihrer Anbieter

Azure OpenAI betreibt OpenAI-Modelle in Ihrem Azure-Abonnement, unter Ihrem Enterprise Agreement und den Inhaltsfiltern von Azure. INFRO behält all das bei: Es ruft Ihre Ressource mit Ihrem Schlüssel auf. Neu ist, dass Ihre Anwendung INFRO aufruft, das von Azure auf OpenAI oder einen anderen Anbieter ausweichen, Budgets vor dem Aufruf durchsetzen und Kosten pro Anfrage erfassen kann.

Azure OpenAI in Microsoft Foundry Models; v1-API ohne api-version seit August 2025

INFRO-Konten sind per Selbstregistrierung verfügbar. Katalog, Dokumentation und API-Vertrag sind öffentlich, das Gateway ist bereitgestellt, und alles über v1 hinaus ist als „Später“ markiert. Tarife und Testphase

Wo die Dinge stehen

Benennung

Die Dokumentation von Microsoft nennt es jetzt Azure OpenAI in Microsoft Foundry Models; die Plattform, früher Azure AI Foundry, heißt Microsoft Foundry.

Die v1-API

Seit August 2025 braucht der Pfad /openai/v1/ keine api-version und funktioniert mit dem normalen OpenAI-Client. Er stellt auch andere von Azure vertriebene Foundry-Modelle über dieselbe Chat-Completions-Syntax bereit.

Was INFRO aufruft

https://{resource}.openai.azure.com/openai/v1 mit dem api-key der Ressource. Das gesendete model ist Ihr Deployment-Name aus der Modellzuordnung der Verbindung, sonst der Modellname. Responses-Anfragen gehen unverändert an Azure.

Wenn Azure Ihr einziger Anbieter ist und Ihre Kontrollen bereits in Azure liegen, bringt ein Gateway womöglich wenig. Bleiben Sie dabei, wenn eines davon zutrifft.

  • Sie nutzen ausschließlich Entra ID, und Schlüssel sind auf der Ressource deaktiviert. Die Azure-Verbindung von INFRO nutzt den API-Schlüssel der Ressource.
  • Alles muss in Ihrem Azure-Tenant oder einer Datenzone bleiben. INFRO läuft im Netz von Cloudflare zwischen Ihrer App und Azure; Datenresidenz steht auf der Roadmap.
  • Sie nutzen die Evals von Azure, gespeicherte Completions, Responses im Hintergrund oder die Assistants- und Realtime-APIs. INFRO stellt sie nicht bereit.
  • Azure ist Ihr einziger Anbieter, und Azure Monitor beantwortet Ihre Kostenfragen bereits.

Die Änderungen, je eine Zeile. Alles, was hier nicht aufgeführt ist, bleibt, wie es ist.

 Azure OpenAIINFRO
Basis-URLhttps://{resource}.openai.azure.com/openai/v1/ oder /openai/deployments/{name}/...?api-version=.https://api.infro.io/v1
Zugangsdatenapi-key oder ein Entra-ID-Bearer-Token.Ein INFRO-Gateway-Schlüssel. INFRO hält Ressourcenname und Schlüssel als Verbindung, versiegelt.
Modell-IDIhr Deployment-Name, zum Beispiel gpt-prod.openai/gpt-5.6-terra; die Verbindung ordnet es gpt-prod zu. Oder ein Routenname.
Felderuser, metadata, store; content_filter_results in Antworten.metadata { user_id, session_id, tags }, von INFRO erfasst und nicht weitergeleitet. Der Inhaltsfilter von Azure läuft weiterhin auf Ihrer Ressource.

Vorher · Azure OpenAI v1

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://my-company.openai.azure.com/openai/v1/",
  apiKey: process.env.AZURE_OPENAI_API_KEY,
});

await client.chat.completions.create({
  model: "gpt-prod", // deployment name
  messages: [{ role: "user", content: "Hello" }],
});

Nachher · INFRO

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

await client.chat.completions.create({
  // A route: Azure deployment first, OpenAI second
  model: "gpt-prod",
  messages: [{ role: "user", content: "Hello" }],
});

Deployments in der Modellzuordnung

Ordnen Sie auf der Azure-Verbindung openai/gpt-5.6-terra Ihrem Deployment gpt-prod zu. Ein nicht zugeordnetes Modell wird mit seinem eigenen Namen als Deployment-Namen gesendet.

Inhaltsfilter funktionieren weiter

Azure wendet Ihre Filter auf Ihrer Ressource an. Eine Anfrage, die Azure ablehnt, folgt der moderation-Regel der Route: die Ablehnung zurückgeben oder, wenn Sie das wählen, auf das nächste Ziel ausweichen.

Mehrere Ressourcen

Verbinden Sie jede Azure-Ressource (eine pro Region oder Datenzone) als eigene Verbindung, und eine Route kann zwischen ihnen ausweichen, bevor sie einen anderen Anbieter versucht.

Die Objekte von Azure OpenAI gegenüber denen von INFRO, anhand der öffentlichen Dokumentation von Azure OpenAI, gelesen am 19. Oktober 2026, und geprüft anhand dessen, was das Gateway implementiert. Eine Zeile besagt, dass INFRO nichts hat.

Azure OpenAIWas es dort tutIn INFRO
Ressource und SchlüsselandersEine Azure-OpenAI-Ressource mit Schlüsseln oder Entra ID.Eine Azure-Verbindung mit Ressourcenname und Schlüssel, versiegelt. Kein Entra ID.
Deploymentsgleiche FormBenannte Deployments jedes Modells, mit einem Deployment-Typ.Eine Modellzuordnung von Katalog-IDs zu Ihren Deployment-Namen.
FailoverandersÜber Ressourcen hinweg ist Sache Ihrer Anwendung.Routen über Azure-Ressourcen und andere Anbieter, mit Fehlerregeln pro Art.
Kontingente und PTUandersTokens pro Minute pro Deployment; Provisioned Throughput.Auf Seiten von Azure unverändert. INFRO ergänzt Budgets in Dollar, die vor dem Aufruf ablehnen.
Inhaltsfilter und Prompt Shieldsgleiche FormPro Ressource konfiguriert, pro Deployment zugewiesen.Sie laufen weiterhin auf Ihrer Ressource. INFRO ergänzt auf Wunsch eigene Guardrails darüber.
Prompt-Cachinggleiche FormAutomatisches Prefix-Caching, prompt_cache_key, explizite Breakpoints bei neueren Modellen.Unverändert an Azure übergeben; das Caching erfolgt bei Azure. INFRO ergänzt einen optionalen Antwort-Cache für exakte Treffer.
Responses APIandersEmpfohlen; Hintergrundaufgaben, gespeicherte Antworten./v1/responses unverändert an Azure gesendet; previous_response_id und background werden abgelehnt, weil INFRO keine Antworten speichert.
Evals und gespeicherte Completionsnichts/openai/v1/evals, store und metadata.Nichts.
KostenandersAzure Cost Management.Geschätzte Kosten pro Anfrage nach Projekt, Schlüssel, Nutzer und Tag. Nicht mit der Azure-Abrechnung abgeglichen.

Unsere Lesart der veröffentlichten Dokumentation von Azure OpenAI, kein Test und kein Benchmark. Wenn wir etwas falsch gelesen haben, sagen Sie es uns, und wir korrigieren die Zeile.

Was INFRO nicht tut

  • Sich bei Azure mit Entra ID oder Managed Identities authentifizieren.
  • Assistants, Realtime, Evals, Batches oder Fine-Tuning bereitstellen.
  • Traffic in Ihrem Azure-Tenant oder einer Datenzone halten.
  • Mit der Azure-Abrechnung abgleichen.

Was nicht übernommen wird

  • Azure-Monitor-Metriken und -Logs von vor der Umstellung; sie bleiben in Azure.
  • Gespeicherte Completions und gespeicherte Antworten.

Fragen

Gelten meine Azure-Inhaltsfilter weiterhin?
Ja. INFRO ruft Ihre eigene Ressource auf, und Azure wendet dort seine Filter wie bisher an.
Wer rechnet die Nutzung mit mir ab?
Microsoft, in Ihrem Azure-Abonnement. INFRO ist ein Abonnement und schlägt 0 % auf Modellausgaben auf.
Kann ich meine Deployment-Namen im Code behalten?
Ja. Legen Sie INFRO-Routen an, die nach Ihren Deployments benannt sind; Aufrufer senden weiterhin dasselbe model.

Wechseln Sie mit uns oder auf eigene Faust

Das Migrationsprogramm überträgt Ihr Azure OpenAI-Setup in einem Gespräch auf INFRO-Verbindungen, -Routen und -Budgets und zieht den ersten Dienst gemeinsam mit Ihnen um. Ihre Anbieter rechnen weiterhin direkt mit Ihnen ab; INFRO ist ein Abonnement und schlägt 0 % auf Modellausgaben auf.

Quellen

Jede Aussage auf dieser Seite über Azure OpenAI stammt aus einer dieser Quellen, gelesen am 19. Oktober 2026. Nichts ist aus einem Test, einem Benchmark oder einem Gespräch abgeleitet.