Zum Inhalt springen

AnwendungsfälleFinOps für KI

Jede KI-Anfrage zugeordnet, bevor die Rechnung eintrifft.

Jede Anfrage wird mit Modell, Projekt, Schlüssel und geschätzten Anbieterkosten zu Ihren eigenen Preisen erfasst. Gruppieren Sie sie nach dem Team, Feature oder Kunden, das sie verursacht hat, vergleichen Sie sie mit dem, was der Anbieter meldet, und senden Sie sie an die FinOps-Tools, die Sie bereits nutzen.

Geschätzte Anbieterkosten · Oktober · nach Feature gruppiertBeispiel
summarize$1,284.10 · 41%
search$902.55 · 29%
support-agent$688.20 · 22%
nicht zugeordnet$251,40 · 8 % · kein Feature gesendet

Beispiel-Organisation. Geschätzte Anbieterkosten, von Ihren Anbietern in Rechnung gestellt; das Abonnement von INFRO ist davon getrennt.

Das Problem

Ohne Control Plane

  • Eine Rechnung pro Anbieter, und keine Zeile, die sagt, welches Team sie verursacht hat.
  • Listenpreise in jeder Schätzung, während Ihr Vertrag andere Preise trägt.
  • KI-Ausgaben liegen außerhalb der FinOps-Plattform, die den Rest der Cloud-Kosten hält.

Mit INFRO

  • Kosten nach Projekt, Schlüssel, Mitglied, Feature oder Endkunde gruppiert.
  • Ihre ausgehandelten Preise werden vor dem Listenpreis des Herstellers verwendet.
  • Ein FOCUS-Datensatz und Nutzungs-APIs für die Tools, die Sie bereits betreiben.

So funktioniert es

  1. An der Quelle taggen

    Projekte und Schlüssel ordnen jede Anfrage automatisch zu; X-INFRO-Feature und X-INFRO-User-Id ergänzen das Produkt-Feature und den Endkunden.

  2. Mit Ihren Preisen bepreisen

    Tragen Sie die Preise Ihrer Verträge ein, pro Modell und pro Anbieter. Schätzungen verwenden sie vor dem Listenpreis; alles ohne bekannten Preis wird als ohne Preisangabe gezeigt, nie als $0.

  3. Den Kreis schließen

    Vergleichen Sie Schätzungen mit den vom Anbieter gemeldeten Kosten, verfolgen Sie Zusagen und exportieren Sie das Ergebnis als FOCUS oder über die Nutzungs-API.

Was Sie bekommen

Jede ist dokumentiert, und bei jeder steht, welcher Tarif sie enthält. Wo kein Tarif genannt ist, ist sie in jedem Tarif enthalten.

  • Ausgabenzuordnung

    Gruppieren Sie Kosten nach Modell, Projekt, Schlüssel, Mitglied, Feature oder einer Endnutzer-ID, die Sie der Anfrage mitgeben.

    Doku
  • Ihre ausgehandelten PreiseAb Team

    Tragen Sie die Preise Ihrer Verträge ein, damit Schätzungen sie vor dem Listenpreis des Herstellers verwenden.

    Doku
  • AbgleichAb Business

    Täglicher Vergleich der geschätzten Ausgaben mit den eigenen Kosten-APIs von OpenAI und Anthropic, mit der wahrscheinlichen Ursache einer Lücke.

    Doku
  • Kostenstellen und AbrechnungenAb Team

    Regeln ordnen Anfragen den Kostenstellen zu, auf die Finance umlegt; eine Monatsabrechnung summiert jede.

    Doku
  • FOCUS- und Nutzungsexporte

    GET /v1/usage und /v1/requests, CSV aus der Konsole und ein FOCUS-v1.4-Datensatz für Ihre FinOps-Plattform.

    Doku
  • Zusammenfassung und Monatsbericht

    Ausgaben gegen Budget und ihre Hochrechnung auf einer Seite, jeden Montag per E-Mail, mit einem druckbaren Monatsbericht.

    Doku

Für wen es ist

  • FinOps-PraktikerKI-Ausgaben in derselben FOCUS-Form wie der Rest Ihrer Cloud-Kosten, vor Monatsende zugeordnet.
  • Finance-LeiterShowback oder Chargeback nach Team auf Zahlen, die Ihre Vertragspreise nutzen.
  • Engineering ManagerWelches Feature, Modell oder welcher Schlüssel die Zahl diese Woche bewegt hat, ohne Tabellenkalkulation.

FAQ

Sind die von INFRO gezeigten Kosten das, was mein Anbieter berechnen wird?

Es ist eine Schätzung der Anbieterkosten, aus Listenpreisen oder den von Ihnen eingetragenen ausgehandelten Preisen. Die Rechnung Ihres Anbieters ist die endgültige Zahl. Wo OpenAI oder Anthropic Kostendaten veröffentlichen, vergleicht der Abgleich beide täglich.

Schlägt INFRO etwas auf meine Modellausgaben auf?

Nein. 0 % Aufschlag: Ihre Anbieter berechnen Ihnen die Inferenz direkt, und INFRO berechnet ein separates Software-Abonnement. Beides wird auf keinem INFRO-Bildschirm je addiert.

Welche FinOps-Tools können den Export lesen?

Jedes Tool, das einen FOCUS-v1.4-Cost-and-Usage-Datensatz als CSV oder JSON lädt, oder alles, was die Nutzungs-API mit einem Gateway-Schlüssel aufrufen kann.

Der vollständige Vertrag steht in der Dokumentation zur Kostenzuordnung, und alle anderen Fragen stehen in den FAQ.

Loslegen

Probieren Sie es auf Ihren eigenen Anbieterkonten aus.

Verbinden Sie einen Anbieter, erstellen Sie einen Gateway-Schlüssel und ändern Sie eine Basis-URL. Ihre Anbieter rechnen weiter direkt mit Ihnen ab; 0 % Aufschlag auf Modellausgaben.