Verbinden Sie die Anbieterkonten, die Sie bereits haben. Ihre Apps rufen eine API auf; jede Anfrage läuft mit Ihren Zugangsdaten und wird von Ihrem Anbieter abgerechnet.
Fügen Sie ihn in den Agent ein, den Sie bereits nutzen. Er routet die Modellaufrufe, die INFRO bereitstellt, und sagt Ihnen, welche er direkt gelassen hat.
Claude Code · claudeFühren Sie es im Repository-Stammverzeichnis aus und fügen Sie den Prompt ein.
Typisierter Client für Chat, Bilder, Video und Audio, mit Routing, Fallbacks, Metadaten und geschätzten Kosten als echten Argumenten. Keine Abhängigkeiten, auf fetch aufgebaut.
Eine Oberfläche, als synchroner und asynchroner Client über derselben Implementierung angeboten, sodass sich eine gestreamte Completion in beiden identisch verhält. Eine Abhängigkeit, httpx.
Die multimodale Oberfläche und die Kostenzahl pro Anfrage an einem Ort in einer Flutter-App, statt handgebautem JSON in einem Widget. Eine Abhängigkeit, package:http.
Holt den eigenen Kostenbericht von OpenAI oder Anthropic, vergleicht ihn mit einem Nutzungsexport, den Sie bereits haben, und gibt die Abweichung pro Tag aus. Kein INFRO-Konto, keine Anmeldung, keine Konfigurationsdatei.
Führen Sie es auf Ihrem eigenen Anbieterkonto aus oder über einen Gateway-Schlüssel und seine Richtlinie. Sehen Sie, wer es bedient hat, wie lange es dauerte, was Ihr Anbieter berechnen wird und den vollständigen Trace, und kopieren Sie es dann als cURL, Python oder TypeScript.
Eine Anfrage mit dem Feature support-triage erreicht die Route namens support. Ihre erste Regel, long-prompts, sendet Prompts mit geschätzt über 32.000 Input-Tokens an eine Vertex-AI-Verbindung und trifft nicht zu. Ihre zweite, support-triage, trifft zu und sendet die Anfrage an eine Anthropic-Verbindung, dann an eine AWS-Bedrock-Verbindung. Anthropic antwortet mit 429, die Fehlerregel der Route für rate_limit sagt Failover, und die Bedrock-Verbindung bedient sie: Die Antwort nennt die Route, die Kettenposition standby_a und den Anbieter.
Fünf Anfragen laufen über die eine API von INFRO: Text an Anthropic, ein Bild an OpenAI mit Auflösung 2K und Seitenverhältnis 16:9, ein Video an Runway in 1080p, dasselbe Video in 720p und Sprache an ElevenLabs als mp3. INFRO prüft jede Einstellung gegen das, was das Modell bei diesem Anbieter annimmt, bevor es ihn aufruft. Das 1080p-Video wird bei INFRO abgelehnt und nie an Runway gesendet, mit der Meldung: Runway Gen-4 Turbo on Runway renders at 720p, not 1080p. In 720p wird es zu einem Job, dessen Abschluss ein signierter Webhook meldet.
/v1 · eine APIEinstellungen vor dem Aufruf geprüft
Sehen, was passiert ist – und was es gekostet hat.
Jede Anfrage wird mit ihrer Route, der Verbindung, die sie bedient hat, jedem Versuch, Latenz, Tokens und einer Schätzung dessen protokolliert, was Ihr Anbieter berechnen wird – gruppiert nach Projekt, Schlüssel, Modell oder Verbindung.
Benachrichtigt, wenn sich Kosten oder Verhalten ändern, auch ohne Fehler.
INFRO vergleicht den Traffic jedes Tages mit dem, was für ihn üblich ist.
Stille Änderungen werden zu Befunden. Ein neuer Snapshot, längere Antworten oder ein verlorener Prompt-Cache, jeweils mit der wöchentlichen Kostenänderung.
Ausgabenanomalien und Drift benachrichtigen Sie per E-Mail, Slack oder Webhook.
Täglich abgeglichen. Bei Business werden die erfassten Kosten mit den eigenen Kostenberichten von OpenAI und Anthropic abgeglichen.
Zwei Ansichten wechseln sich ab. Zuerst liegen die täglichen geschätzten Anbieterausgaben eines Projekts nahe den üblichen $410 und werden für heute auf $1,240 hochgerechnet; drei Befunde folgen: ein Modell, das von einem neuen Snapshot beantwortet wird, mit seiner geschätzten wöchentlichen Auswirkung, die ungewöhnlichen Ausgaben und der eigene Kostenbericht von OpenAI, der von den Schätzungen von INFRO abweicht. Danach wird für die Ausgaben des Projekts im laufenden Monat $5,820 gegenüber einem Budget von $5,000 prognostiziert; die Befunde sind steigende Output-Tokens pro Anfrage bei einem Modell, die Prognose über dem Budget und der Kostenbericht von Anthropic, der von den Schätzungen abweicht. Die Abgleich-Befunde sind mit dem Tarif gekennzeichnet, der sie enthält.
GET/v1/alertsBefunde, auch in der Konsole
Tagesausgaben · Projekt support-assistantÜblicher Tag $410Hochrechnung heute $1,240
traffic.model_changedopenai/gpt-5.6-terra wird von einem neuen Modell-Snapshot beantwortet: gpt-5.6-terra-2026-10-02Vorher gpt-5.6-terra-2026-08-14+$212.40Geschätzte wöchentliche Auswirkung
spend.anomalyUngewöhnliche Ausgaben: Projekt support-assistant steuert heute auf $1,240 zuÜblicher Tag $410$1,240Hochrechnung heute
cost.driftBusinessKostenschätzungen für openai liegen 8.4% unter dem, was der Anbieter gemeldet hatQuellcode OpenAI-Kosten-API6 von 7Tage mit Drift
Monat bis heute · Projekt support-assistantBudget $5,000Prognose $5,820
traffic.regressionOutput-Tokens pro Anfrage bei openai/gpt-5.6-terra gestiegenOutput-Tokens pro Anfrage 412 → 655+$96.10Geschätzte wöchentliche Auswirkung
spend.forecast_over_budgetPrognose über Budget: Projekt support-assistant steuert auf $5,820 von $5,000 zuBudget $5,000 im Monat$5,820Prognose
cost.driftBusinessKostenschätzungen für anthropic liegen 6.1% über dem, was der Anbieter gemeldet hatQuellcode Anthropic-Kostenbericht5 von 7Tage mit Drift
Zwei Gateway-Schlüssel und ihre Richtlinie. Der Produktionsschlüssel gehört zum Projekt support-assistant, darf Anthropic und AWS Bedrock aus einem IP-Bereich nutzen, und das Projekt erlaubt ein Modell unter einem blockierenden Budget. Seine Anfragen werden einzeln entschieden, bevor ein Anbieter aufgerufen wird: Ein erlaubtes Modell wird von der Anthropic-Verbindung bedient, ein Modell außerhalb der Freigabeliste wird mit 403 model_not_allowed abgelehnt, eine Anfrage von einer anderen Adresse mit 403 ip_not_allowed, und eine Anfrage über dem Projektbudget mit 402 budget_exceeded und dem Code project_budget. Der Staging-Schlüssel kann keine auf Produktion beschränkte Verbindung erreichen und wird mit 503 connection_out_of_scope abgelehnt; ein Modell, das von einer Staging-Verbindung bedient wird, geht durch.
POST/v1/chat/completionsVor dem Anbieter geprüft
support-prodProjekt support-assistantUmgebungproductionAnbieteranthropic, aws-bedrockIP-Bereiche10.20.0.0/16Modelleanthropic/claude-sonnet-5.5Budget$5,000 im Monat, blockiert
Ein Limit für jede Person und für jeden Ihrer Kunden.
Begrenzen Sie die geschätzten Anbieterausgaben jedes Mitglieds für den Monat und wählen Sie, ob das Erreichen warnt oder blockiert.
Jeder Schlüssel, den sie erstellen, zählt zu einem Limit.
Blockieren oder warnen, pro Person festgelegt.
Die strengste Richtlinie gilt über Organisation, Projekt und Schlüssel hinweg.
Teambudgets
Dieser Monat · geschätzte Anbieterausgaben
Teamausgaben
$245 von $450
Verbleibend
$205
Teammitglieder und ihre Monatslimits für geschätzte Anbieterausgaben in diesem Monat
Person
MonatslimitEin Monatslimit für geschätzte Anbieterausgaben über alle Gateway-Schlüssel, die dieses Mitglied erstellt hat. Richtlinien für Organisation, Projekt und Schlüssel können ebenfalls gelten, und die strengste gilt.
Dieser Monat
Verbleibend
Maya ChenMitglied · 2 Schlüssel
MonatslimitBlockiert am Limit
Dieser Monat$120 von $20060%
Verbleibend$80
Omar AliMitglied · 1 Schlüssel
MonatslimitBlockiert am Limit
Dieser Monat$80 von $10080%Nahe am Limit
Verbleibend$20
Lena BrooksAdmin · 1 Schlüssel
MonatslimitNur warnen
Dieser Monat$45 von $15030%
Verbleibend$105
Ihre Kunden
Begrenzen Sie, was jeder Ihrer eigenen Kunden pro Tag, Woche oder Monat ausgeben kann. Senden Sie dessen ID mit der Anfrage; erreicht er das Limit, antwortet das Gateway mit 402 und dem Zeitpunkt der Zurücksetzung, damit Ihre App es ihm sagen kann. Ab dem Tarif Team.
Drei Ihrer Kunden, jeder mit einem Tageslimit von 2 Dollar geschätzter Anbieterausgaben. Ihre Anfragen werden bedient, und die Anzeige jedes Kunden füllt sich. Eine Anfrage, die cus_4f2a über das Limit bringen würde, wird mit 402 abgelehnt, bevor sie Ihren Anbieter erreicht, und die Antwort nennt den Zeitpunkt der Zurücksetzung: 00:00 UTC. Um Mitternacht UTC wird jedes Tageslimit zurückgesetzt.
cus_7a2c+$0.60$0.00$0.60
cus_91be+$0.40$0.00$0.40
cus_4f2a+$0.90+$0.80$0.00$0.90$1.70
Unter dem Limit: bedient402cus_4f2aLimit erreicht · Zurücksetzung um 00:00 UTC00:00 UTC · jedes Tageslimit wird zurückgesetzt
JedesModell,fürdasSiebezahlen,ineinemStudio.
Bilder, Video und Ton auf den Anbietern, die Sie bereits bezahlen, vom ersten Prompt bis zum Schnitt, den Ihr Schnittprogramm öffnet.
1ADer Markt im RegenAnkunft1BMara unter der MarkiseAnkunft1CLaternen, nahAnkunft2ADie TasseDer Stand2BKen gießt einDer Stand2CRegen am FensterDer Stand3AUnter einem SchirmZusammen3BDie Gasse hinaufZusammen3CMorgengrauen, EndkarteZusammen
Ein Beispielprojekt, Nachtmarkt: ein 30-Sekunden-Spot aus 9 Einstellungen. Jeder Keyframe wurde mit GPT Image 2 erstellt und auf einem Videomodell animiert, mit Stimme, Effekten und Musik auf den Audiomodellen der eigenen Anbieter der Organisation.
3 laufengesch. $2.23 in Arbeit
Mara und Ken teilen sich einen Schirm auf der nassen Marktg…GPT Image 2 · OpenAI · ca. $1.84
warmes Lo-Fi-Klavier, leichter Regen, hoffnungsvollEleven Music · ElevenLabs · ca. $0.07
Video hochskalierenTopaz Video Upscale · Replicate · ca. $0.32
2B Sprechtextca. <$0.01
Ken“Die letzte Tasse des Abends.”ElevenLabs V4 · ElevenLabs
1B Mara unter der Markise4 Takes
Kling O3fal · 4 s · $0.45 Behalten
Veo 3.1Google · 4 s · $1.60
Seedance 2.0Replicate · 4 s · $0.60
Runway Gen-4.5Runway · 4 s · $0.48
Kling O3 behalten
BildStimmeEffekteMusik
0s51015202530
MaraKenElevenLabs V4
ElevenLabs Sound Effects v2
Eleven Music · warmes Lo-Fi-Klavier, leichter Regen, hoffnungsvoll
Entscheidungsmodelle beantworten typisierte Fragen mit Wahrscheinlichkeiten. INFRO macht aus jeder Antwort eine Aktion: ein Modell, eine Sperre, eine Freigabe, ein Label.
8Entscheidungsmodelle, eine APIJeweils auf Ihrem eigenen Anbieterkonto.
Jeden Prompt auf einer Route klassifizieren und jede Klasse per Routenregeln an ihr eigenes Modell senden.
Drei Prompts treffen auf einer Route ein. Für jeden beantwortet das Entscheidungsmodell eine Auswahlfrage – wie viel Reasoning die Anfrage braucht – mit einer Wahrscheinlichkeit für klein, mittel und groß. Die Routenregeln von INFRO senden die Anfrage an das Modell für die wahrscheinlichste Klasse, und die Antwort nennt die Klasse im Header X-INFRO-Route-Class. Hier beantwortet von GPT-6 Luna (Decisions) von OpenAI.
Prompt
Wie lang ist Ihre Rückerstattungsfrist?
GPT-6 LunaOpenAIchoice
Wie viel Reasoning braucht diese Anfrage?
small0.86Gemini 3.8 Flash
medium0.11Claude Sonnet 5.5
large0.03Claude Opus 5.5
Warten auf die Antwort200X-INFRO-Route-Classsmall; confidence=0.79; source=modelmodelgoogle/gemini-3.8-flash
01Ihre AnbieterkontenJede Entscheidung läuft auf Ihrer eigenen Verbindung und wird von Ihrem Anbieter abgerechnet.
02Innerhalb Ihrer BudgetsVor dem Aufruf gegen Schlüsselbereich und Ausgabenlimits geprüft.
03Mit seinen Kosten protokolliertJeder Aufruf ist eine Zeile im Anfrageprotokoll: Modell, Antwort, geschätzte Kosten.
INFRO ist ein KI-Gateway und eine Control Plane: eine API zwischen Ihren Anwendungen und den KI-Anbietern, die Sie bereits bezahlen, etwa OpenAI, Anthropic und Google. Sie verbinden Ihre eigenen Anbieterkonten und behalten Ihre Verträge und Preise; INFRO routet jede Anfrage, wechselt per Failover, wenn ein Anbieter einen Fehler meldet, prüft Budgets vor dem Aufruf, erfasst Latenz und geschätzte Kosten jeder Anfrage und setzt Richtlinien für Schlüssel, Modelle und Daten durch. Engineering-Teams nutzen es für eine Integration über Text, Bild, Video und Audio; Finanzteams für Ausgaben nach Team, Projekt und Kunde; Plattform- und Sicherheitsteams für die zentrale Kontrolle von Anbieterschlüsseln und Modellzugriff. Ihre Anbieter rechnen die Modellnutzung direkt mit Ihnen ab, zu Ihren Preisen; INFRO berechnet ein monatliches Abonnement für die Software, mit 0 % Aufschlag auf Modellausgaben.
Warum INFRO statt OpenAI oder Anthropic direkt aufzurufen?
Wenn Sie ein Modell eines Herstellers nutzen und niemand gefragt hat, was es kostet, sollten Sie wahrscheinlich direkt gehen – das ist eine ernst gemeinte Antwort, und wir geben sie lieber, als Ihre Evaluierung zu verschwenden. INFRO lohnt sich, wenn mindestens eines davon zutrifft: Sie betreiben mehrere Modelle mehrerer Hersteller, ein Anbieter-Ausfall hat Ihr Produkt lahmgelegt, jemand fragt inzwischen, welcher Kunde oder welches Feature wie viel ausgibt, oder Anbieterschlüssel tauchen an mehr als einer Stelle auf. Sie rufen weiterhin dieselben Anbieter mit denselben Konten auf; Sie pflegen nur nicht mehr selbst die Integration, das Failover und die Abrechnung dazwischen.
Wie beginnt die Testphase?
Erstellen Sie ein Konto unter dash.infro.io und bestätigen Sie Ihre E-Mail-Adresse. Sie legen Ihre Organisation an, wählen einen Tarif und hinterlegen beim Checkout eine Karte; Ihre 14-tägige Testphase beginnt, sobald dieser Checkout abgeschlossen ist. Am Ende von Tag 14 wird der gewählte Tarif automatisch berechnet – kündigen Sie vor Tag 14, entstehen Ihnen keine Kosten. Ihre Anbieter rechnen die Modellnutzung die ganze Zeit direkt mit Ihnen ab.
Kann ich Jev von TypeSafe über INFRO nutzen?
Ja. INFRO stellt POST /v1/systemone von TypeSafe mit dem Anfrage-Body und den Modellnamen von TypeSafe bereit, sodass das SDK von TypeSafe mit einer neuen Basis-URL und einem INFRO-Gateway-Schlüssel gegen INFRO funktioniert. Jede Entscheidung läuft über Ihr eigenes TypeSafe-Konto, und TypeSafe rechnet sie direkt mit Ihnen ab. Bevor TypeSafe aufgerufen wird, prüft INFRO den Schlüssel und ein etwaiges Ausgabenlimit; danach gibt es die Antworten von TypeSafe mit der antwortenden Version und geschätzten Kosten zurück und erfasst die Anfrage.
Was passiert, wenn INFRO selbst ausfällt?
Wir werden eine weitere Abhängigkeit – das ist der ehrliche Preis dieses Tauschs, und Sie sollten ihn einkalkulieren. Drei Dinge machen ihn verkraftbar. Die Statusseite läuft auf einem separaten, weit einfacheren Deployment als das Gateway und prüft das Gateway aus Ihrem eigenen Browser. Text spricht das OpenAI-Format, daher ist ein direkter Anbieterschlüssel plus ein Umschalter für die Basis-URL in Ihrer Konfiguration eine Notfalllösung aus zwei Zeilen, die wir ausdrücklich empfehlen. Und es gibt kein veröffentlichtes Uptime-SLA, weil ein Dienst ohne Betriebshistorie ehrlicherweise keines anbieten kann; ein Enterprise-Vertrag kann ein vertragliches enthalten.
Kann ich später wechseln?
Ja, und der Weg zurück sind dieselben zwei Zeilen, mit denen Sie gekommen sind. Rufen Sie Anfrage- und Nutzungsverlauf über die öffentlichen APIs ab oder laden Sie ihn als CSV aus dem Anfrageprotokoll und aus Analytics herunter, und bewahren Sie ihn in Ihren eigenen Systemen auf, bevor er das abfragbare Verlaufsfenster Ihres Tarifs verlässt. Es gibt keine geplanten oder per E-Mail versandten Exporte.
Wie werden unsere Unternehmensdaten behandelt, und trainieren Sie damit?
Wir trainieren niemals mit Ihren Prompts, Eingaben oder Ausgaben, und wir verkaufen sie niemals. Nutzungsmetadaten dienen der Messung auf der Plattform, Kostenschätzungen und Governance. Optionales Logging von Prompts und Antworten ist standardmäßig aus und durch Ihren Tarif begrenzt. Job-Datensätze und für die Auslieferung benötigte generierte Medien sind davon getrennt. Die Einstellungen Ihrer KI-Anbieter zu Datennutzung und Aufbewahrung richten sich weiterhin nach Ihren Verträgen mit ihnen.
