Zum Inhalt springen

Ihr KI-Produkt sollte nicht für die Infrastruktur rund um KI zuständig sein.

Ob Sie als einzelner Entwickler ein KI-SaaS ausliefern oder als Team Millionen von Anfragen verarbeiten: INFRO gibt der Infrastruktur rund um Ihre Modelle einen Ort – eine API über die Anbieterkonten, die Sie bereits haben, Routing und Wiederholungen erledigt und jeder Aufruf mit seinen geschätzten Kosten erfasst, bei 0 % Aufschlag auf das, was Ihre Anbieter berechnen.

14 Tage testenDas Produkt kennenlernen

INFRO-Konten sind per Selbstregistrierung verfügbar. Katalog, Dokumentation und API-Vertrag sind öffentlich, das Gateway ist bereitgestellt, und alles über v1 hinaus ist als „Später“ markiert. Tarife und Testphase

Das Problem

Das Infrastrukturproblem ist jedes Mal dasselbe.

Ein Agent, ein Video-Tool, ein SEO-Produkt, ein Vertriebsassistent – die Produkte sehen völlig unterschiedlich aus, und die Infrastruktur darunter ist am Ende nahezu identisch. Anbieter, Routing, Wiederholungen, Latenz, Nutzung, Kosten, Budgets, Zuverlässigkeit. INFRO gibt all dem einen Ort, der nicht Ihre Codebasis ist.

Nichts davon liefert ein Feature. Alles davon müssen Sie pflegen, und es wächst mit jedem Ausfall weiter an.

Ohne eine Schicht ist Ihre App zuständig für
  • Ein Konto und ein Schlüssel pro Anbieter, jeweils mit eigenem Anfrageformat
  • Wiederholungen, Timeouts und was auch immer Sie gegen Rate Limits unternommen haben
  • Kostenrechnung pro Modell und eine Tabelle, die veraltet
  • Logging, das Sie nach dem ersten unerklärlichen Ausfall ergänzt haben

Jede dieser Entscheidungen war an dem Tag, an dem Sie sie getroffen haben, vernünftig.

Was Sie bekommen

Vier Dinge, und jedes davon ist Arbeit, die Sie sonst selbst erledigen würden.

  • Eine Integration, nicht eine pro Anbieter

    Für Text gilt das OpenAI-Anfrageformat, sodass ein bestehender Client nur auf eine neue Basis-URL zeigt. Bild, Video und Audio verwenden ein einheitliches INFRO-Format für alle Modelle statt je eines eigenen SDK.

  • Anbieterentscheidungen berühren Ihren Code nicht mehr

    Ein Modell hinzufügen, einen Workload verschieben oder eine Reserve dahinterschalten ist eine Änderung in dieser Schicht, kein Deployment. Jede Antwort nennt weiterhin den Anbieter und die Verbindung, die sie bedient haben, sodass Ihnen nichts verborgen bleibt.

  • Jede Anfrage wird mit ihren Kosten erfasst

    Modell, Route, Latenz, Token oder Einheiten und geschätzte Anbieterkosten – zuordenbar zu einem Projekt, einem Schlüssel oder einem Ihrer eigenen Endnutzer. Das ist die Zahl, die Sie brauchen, wenn jemand nach der Marge fragt.

  • Eine Obergrenze, die stoppt, statt eine E-Mail zu schicken

    Eine außer Kontrolle geratene Schleife oder ein fehlerhafter Prompt wird zur Rechnung. Ein Ausgabenlimit pro Projekt oder pro Schlüssel, auf Blockieren gestellt, lehnt Anfragen am Limit ab, bevor der Anbieter aufgerufen wird, statt Ihnen hinterher Bescheid zu geben.

Produkt

Jede Anfrage enthält eine Schätzung dessen, was Ihr Anbieter dafür berechnen wird, zugeordnet zu einem Projekt, einem Schlüssel, einem Kunden oder einem Feature – auf Basis des veröffentlichten Herstellerpreises oder, sobald Sie sie im Tarif Team eingeben, Ihrer ausgehandelten Preise.

Anfragen

4 Anfragen · letzte 15 Minuten

ZeitProjektAnbieterStatusLatenzGesch. Kosten
Bedient
3 von 4
Per Fallback wiederhergestellt
1
Abgelehnt vor dem Anbieter
1
Geschätzte Anbieterkosten
$0.0100

Wählen Sie eine Anfrage, um jeden Versuch, seine Latenz und seine geschätzten Kosten zu sehen.

Mit wachsender Nutzung sind Modellausgaben keine Feature-Kosten mehr, sondern Produktökonomie – und eine Monatssumme von jedem Anbieter ist keine Antwort mehr. Der sinnvolle Zeitpunkt für diese Schicht ist, bevor die Zahl groß genug ist, um erklärt werden zu müssen.

Einführung

Wenn Ihr Produkt für Text bereits eine OpenAI-kompatible API aufruft, behalten Sie den Client und den Anfragecode und ändern drei Werte.

API-Schlüssel
Ein INFRO-Gateway-Schlüssel. Anbieter-Zugangsdaten bleiben in INFRO versiegelt.
Basis-URL
https://api.infro.io/v1
Modell
Eine vendor/model-ID oder eine von Ihnen konfigurierte Route.

Antworten behalten die Form von OpenAI. Die eigenen Ablehnungen von INFRO haben eigene Fehlercodes.

Quickstart lesen Einen Anbieter verbinden
app.py+3−2
import osfrom openai import OpenAI client = OpenAI(Entfernt:     api_key=os.environ["OPENAI_API_KEY"],Hinzugefügt:     api_key=os.environ["INFRO_API_KEY"],Hinzugefügt:     base_url="https://api.infro.io/v1",) response = client.chat.completions.create(Entfernt:     model="gpt-5.6-terra",Hinzugefügt:     model="openai/gpt-5.6-terra",    messages=messages,)

Fragen

Jeweils in einer Zeile beantwortet, auch die, bei denen die Antwort lautet, dass Sie sich die Mühe sparen sollten.

Muss ich etwas neu schreiben?
Für Text nein – eine Basis-URL, ein Schlüssel und ein Modellname. Ihre Client-Bibliothek, Request-Bodys, das Parsen der Antworten und die Fehlerbehandlung bleiben unverändert.
Ist das in meiner Größe relevant?
Es lohnt sich ab dem zweiten Anbieter, dem ersten Ausfall oder der ersten Rechnung, die niemand erklären kann. Wenn Sie ein Modell eines Herstellers nutzen und wenig ausgeben, gehen Sie direkt – das sagen wir lieber, als Ihre Evaluierung zu verschwenden.
Muss ich alles umziehen?
Nein. Richten Sie einen Endpunkt darauf aus, lassen Sie den Rest, wo er ist, und vergleichen Sie. Der Wechsel zurück ist dieselbe Änderung umgekehrt.
Kostet es mich mehr?
Ihre Anbieter rechnen weiterhin zu Ihren eigenen Preisen mit Ihnen ab, und INFRO nimmt davon 0 %. An INFRO zahlen Sie ein pauschales Abonnement für die Control Plane, veröffentlicht auf der Preisseite – vier Tarife ab $35 pro Monat, jeder mit einer 14-tägigen Testphase. Nichts, was INFRO verkauft, wird pro Token bepreist, daher ändert sich nichts, wenn ein Prompt länger oder ein Modell teurer wird. Die Tarife steigen mit dem Anfragevolumen, und jede Stufe ist ein veröffentlichter Preis, den Sie wählen.
Kann ich mich umsehen, bevor ich mit jemandem spreche?
Die Anbieterseite listet jeden Anbieter, den Sie verbinden können, der vollständige API-Vertrag steht in der Dokumentation, und jeder Tarif steht auf der Preisseite. Für die Konsole selbst brauchen Sie ein Konto – das Sie selbst erstellen können –, aber alles andere auf dieser Seite lässt sich ohne Gespräch überprüfen.

Loslegen

Sie bauen ein KI-Produkt? Nehmen Sie INFRO in Ihren Stack.

Einmal verbinden und Routing, Transparenz und Ausgabenkontrolle hinzufügen, sobald Ihr Workload sie braucht.

14 Tage testenDas Produkt kennenlernen