KI-Gateway auf der Cloudflare-Entwicklerplattform
INFRO vs Cloudflare AI Gateway
Cloudflare AI Gateway stellt einen Proxy vor 23 Anbieter und deren eigenes Workers AI, und sein Kern – Analytics, Logging, Caching und Ratenbegrenzung – ist in jedem Cloudflare-Konto kostenlos. Im Laufe von 2026 wurde es deutlich mehr als ein Proxy: Dollar-Ausgabenlimits, die geprüft werden, bevor der Anbieter aufgerufen wird – auch Anfragen auf Ihren eigenen Schlüsseln zählend, für Modelle mit bekannten Preisen –, Ausgaben pro Identität zugeordnet, benutzerdefinierte Metadaten, ein visueller Routing-Builder mit versionierten Deployments und sofortigem Rollback, OpenTelemetry-Export, Guardrails und Data-Loss-Prevention in beide Richtungen. Wenn Ihr Traffic ohnehin über Cloudflare läuft, kostet die Einführung einen Nachmittag und sonst nichts – und für sehr viele Teams sollte dort die Evaluation enden, was die ehrliche Zusammenfassung dieser Seite ist.
Wann Cloudflare AI Gateway die bessere Wahl ist
- Kostenlos ist die Anforderung. Der Kern kostet auf einem Konto, das Sie bereits haben, nichts, und keine kostenpflichtige Control Plane lohnt sich, um etwas zu ersetzen, das seine Aufgabe schon erfüllt.
- Sie sind bereits bei Cloudflare. Es sitzt neben den Workers, dem Speicher und dem DNS, die Sie bereits betreiben, unter Verträgen, die Sie schon unterschrieben haben, ohne neuen Anbieter zu prüfen und ohne zweite Rechnung. Für viele Teams ist das die gesamte Evaluation, und es ist eine gute Antwort, keine bequeme.
- Sie wollen Caching über Chat Completions hinaus. Beide Caches beantworten nur exakte Wiederholungen, aber der von Cloudflare deckt Text- und Bildantworten ab und liefert sie aus dem eigenen Netzwerk; der Antwort-Cache von INFRO deckt nur Chat-Completion-Anfragen ab, geschlüsselt pro Projekt und Schlüsselumgebung.
- Sie brauchen Guardrails oder Data-Loss-Prevention im Anfragepfad, sowohl beim Prompt als auch bei der Antwort. Das ist deren Stärke. INFRO hat musterbasierte Guardrails für PII, Secrets und Ihre eigenen Begriffe bei Chat Completions sowie Klassifikator-Prüfungen auf Prompt-Injection, Jailbreaks und schädliche oder themenfremde Anfragen, die nur Prompts lesen, auf Ihrer eigenen Entscheidungsmodell-Verbindung laufen und zum Business-Tarif gehören.
- Sie betreiben Workers AI. Die eigenen Modelle von Cloudflare und Drittanbieter über ein Gateway aufzurufen ist ein echter Vorteil, wenn man es von dem Unternehmen kauft, das beides hostet.
- Bewährte verzeichnisgesteuerte Nutzerbereitstellung ist eine harte Anforderung. Cloudflare dokumentiert die SCIM-Bereitstellung im Dashboard für Enterprise-Kunden gegen Okta, Microsoft Entra ID und Authentik. INFRO enthält SAML/OIDC-SSO und SCIM 2.0 ab dem Business-Tarif, aber sie sind neu und liefen in der Produktion noch nicht gegen den Identitätsanbieter eines Kunden, daher richten wir die erste Verbindung gemeinsam mit Ihnen ein, statt es Self-Service zu nennen.
Dieser Abschnitt ist keine Höflichkeit. Wenn einer dieser Punkte auf Sie zutrifft, wählen Sie Cloudflare AI Gateway – ein Kunde, der auf unseren Rat hin die falsche Schicht einführt, ist schlechter für uns als einer, den wir nie hatten.
Wo die beiden sich tatsächlich unterscheiden.
- Was nach der Schätzung geschieht
- Beide Produkte bepreisen jede Anfrage aus Token-Zählungen und einem Modellpreis, und beide sagen ehrlich, dass das Ergebnis eine Schätzung ist – die Dokumentation zu Cloudflares Ausgabenlimits sagt, die Kostenerfassung erfolge nach bestem Bemühen, und für exakte Abrechnungsbeträge sei das Dashboard Ihres Anbieters heranzuziehen. Das ist eine faire Beschreibung dessen, was jedes Gateway von sich aus weiß, und die Zahl pro Anfrage von INFRO ist eine Schätzung unter denselben Bedingungen. Der Unterschied liegt in dem, was als Nächstes geschieht: Ein täglicher Durchlauf liest Ihre eigenen Kosten-APIs von OpenAI und Anthropic mit einer separaten Admin-Zugangsberechtigung, die Sie bewusst erteilen, speichert das vom Anbieter Gemeldete neben dem, was INFRO für dieselben UTC-Tage geschätzt hat, und benennt die Abweichung. Er deckt diese zwei Anbieter im Business-Tarif ab, und ein Anbieter ohne Adapter zeigt keine Abweichung statt einer Abweichung von null – denn eine Null würde wie eine Übereinstimmung wirken, die niemand geprüft hat. Was ein Finanzgespräch braucht, ist kein Ausgaben-Dashboard; es ist eine Zahl, die gegen eine Rechnung geprüft wurde.
- Wo Ihr ausgehandelter Preis liegt
- Beide können gegen die Preise rechnen, die Ihre Verträge tatsächlich tragen. Cloudflare nimmt sie pro Anfrage, in einem Header cf-aig-custom-cost, den der Aufrufer sendet. INFRO speichert sie in der Konsole, pro Modell und optional pro Anbietertyp – weil dasselbe Modell auf einem direkten Herstellerkonto anders abgerechnet wird als über einen Cloud-Wiederverkäufer – und wendet sie auf jede passende Anfrage an, egal ob der Aufrufer etwas davon wusste. Der Unterschied ist betrieblich und nicht technisch: Wenn der Preis in einem Header reist, trägt jeder Dienst, der ein Modell aufruft, eine Kopie Ihrer Vertragskonditionen, und Neuverhandlungen bedeuten ein Deployment über alle. Wenn er in der Control Plane lebt, ist es eine Änderung durch den, dem der Vertrag gehört, und die Anfragen des letzten Monats behalten den Preis, der galt, als sie liefen. Jeder INFRO-Datensatz sagt außerdem, welcher Preis galt – Ihr ausgehandelter Preis, der veröffentlichte Preis des Herstellers oder ohne Preisangabe –, und eine Anfrage, die niemand bepreisen kann, wird als ohne Preisangabe erfasst und nicht als kostenlos.
- Für welche Anfragen das Routing gilt
- Die dynamischen Routen von Cloudflare werden in einem visuellen Editor zusammengesetzt, als Entwürfe versioniert, mit sofortigem Rollback deployt und akzeptieren – laut Dokumentation – nur die Anfrageform von OpenAI Chat Completions; andere Formate liefern 400. Das ist eine wirklich schöne Art, einen Routing-Ablauf zu bauen, und sie ist auf Chat begrenzt. Die Routen von INFRO sind Ziellisten nach Priorität oder Gewichtung, die für alles gelten, was die Route bedient, auch Bild-, Video- und Audioanfragen, wohin das Geld eines medienlastigen Produkts tatsächlich fließt. Keine Form ist abstrakt besser. Welche passt, hängt davon ab, ob Ihr Routing-Problem bei Text aufhört.
- Ein Gateway oder eine Organisation
- Die Einheit bei Cloudflare ist das Gateway: Der Zugriff darauf läuft über Cloudflare-Kontorollen, und die Identität pro Anfrage kommt aus benutzerdefinierten Metadaten – bis zu fünf Einträge – oder aus Access. Die Einheit bei INFRO ist die Organisation, und darunter liegen Projekte, Umgebungen, Schlüssel mit eigenem Umfang, fünf Rollen, Modell-Freigabelisten auf Organisations-, Projekt- und Schlüsselebene und ein Audit-Log, wer welche Richtlinie wann geändert hat, in jedem Tarif, auch im Einstiegstarif. Der entscheidende Unterschied ist, woran eine Kontrolle hängt: Ein Limit oder eine Freigabeliste gilt hier, weil von einem bestimmten Schlüssel aufgerufen wurde, nicht weil sich der Aufrufer korrekt bezeichnet hat. Metadaten sind die flexiblere der beiden Möglichkeiten und die, bei der man leichter etwas falsch macht. Solange ein Team KI betreibt, genügt ein Gateway. Sobald es mehrere tun, lautet die Frage nicht mehr, was eine Anfrage gekostet hat, sondern welches Team dieses Modell aufrufen darf, wer das genehmigt hat und was es ausgegeben hat – und das ist ein anderes Objektmodell, kein größeres Dashboard.
- Teil einer Plattform, oder ein eigenständiges Produkt
- Das ist die eigentliche Weggabelung, und sie spricht für die meisten Leser für sie. Ihr Gateway ist eine Oberfläche der Cloudflare-Entwicklerplattform, weshalb es kostenlos ist, eine Codezeile braucht und weiter Funktionen auf der Roadmap eines anderen gewinnen wird – dieses Produkt liefert schneller, als diese Seite sich ändert, prüfen Sie daher deren Dokumentation gegen unsere, bevor Sie sich entscheiden. INFRO ist eine eigenständige Control Plane: ein weiterer Anbieter zu prüfen, ein weiteres Abonnement, und niemandem verpflichtet außer dem Betrieb von KI für jeden, der es einsetzt. Welcher Kompromiss richtig ist, hängt davon ab, wie viel Ihres Stacks bereits Cloudflare gehört, und das ist eine Frage über Sie und nicht über eines der beiden Produkte.
Nebeneinander.
Auch unsere Spalte hat Striche. Einem Vergleich, bei dem eine Seite nur Häkchen hat, glaubt niemand, und zu Recht.
| Funktion | Cloudflare AI Gateway | INFRO |
|---|---|---|
| Eine API über viele Anbieter | ja23 Anbieter, plus Workers AI | jawas Ihre verbundenen Anbieter bereitstellen |
| Kostenloser Kern | jaAnalytics, Logging, Caching, Ratenbegrenzung | neinkostenpflichtige Tarife, mit Testphase |
| Ihre eigenen Anbieterschlüssel | jaim Secrets Store gespeichert, pro Gateway, mit Aliassen | japro Umgebung verbunden |
| Routing, Wiederholungen und Failover | javisuelle Routen, nur Form von Chat Completions | jaPrioritäts- oder gewichtete Ziele, jede Modalität |
| Antwort-Caching | jaexakte Übereinstimmung; Text und Bild, aus deren Netzwerk | teilweiseexakte Übereinstimmung, nur Chat Completions |
| Guardrails und Data-Loss-Prevention | jaderen Spezialität; Prompt und Antwort | teilweiseChat-Muster plus Prompt-Klassifikatoren; Business-Tarif |
| Anfrageprotokolle und Traces | jastandardmäßig an | jaPayload-Erfassung standardmäßig aus |
| Budgets, die ablehnen, bevor der Anbieter aufgerufen wird | ja429 am Limit oder ein Fallback-Modell; BYOK für Modelle mit Preis gezählt | ja402, vier Ebenen |
| Kosten einem Team, Feature oder Endkunden zugeordnet | jabenutzerdefinierte Metadaten und Identität | jaProjekt, Schlüssel, Nutzer-ID |
| Schätzungen zu Ihren ausgehandelten Preisen | teilweiseein Header, den der Aufrufer sendet | japro Organisation gespeichert; Team-Tarif |
| Abgleich mit der Rechnung des Anbieters | neinderen Dokumentation verweist auf das Dashboard des Anbieters | teilweiseOpenAI und Anthropic, Business-Tarif; Abweichung benannt |
| Modell-Freigabelisten | teilweisemit Routing-Bedingungen erreichbar | jaOrganisation, Projekt und Schlüssel |
| Projekte, Rollen und ein Audit-Log | teilweiseCloudflare-Kontorollen | jajeder Tarif |
| Anfragehistorie | teilweiseein Speicherlimit pro Gateway | ja7 bis 90 Tage je nach Tarif |
| Bild, Video und Audio | teilweisein der jeweiligen Form des Anbieters durchgereicht | jaje eine Anfrageform |
| Eigene Inferenz des Anbieters | jaWorkers AI | neinroutet an Ihre Anbieter |
| Heute verfügbar | jakostenlose Kernfunktionen | jaSelf-Service-Anmeldung |
Unsere Lesart der öffentlichen Dokumentation jedes Produkts, Stand Oktober 2026. Wir nennen keine Preise von Wettbewerbern – sie ändern sich, und eine falsche Zahl über das Geschäft anderer ist schlimmer als keine. Halten Sie eine Zeile für falsch? Sagen Sie es uns, und wir korrigieren sie.
Rechnen Sie aus, was der Unterschied wert ist
Schätzen Sie, was Ihr aktueller Modellmix zu den Listenpreisen Ihrer Anbieter kostet und welchen Tarif er braucht, oder lassen Sie uns Ihre echte Nutzung lesen und Ihnen sagen, wo wir helfen würden und wo nicht.
Schon bei Cloudflare AI Gateway? Lesen Sie den Migrationsleitfaden von Cloudflare AI Gateway: der Code, der sich ändert, was übernommen wird und was nicht.
Mehr als zwei Optionen im Blick? Alle Cloudflare AI Gateway-Alternativen vergleichen, mit Angabe, wann welche die bessere Wahl ist.