Zum Inhalt springen

MigrationsleitfädenVon Helicone

Wechsel weg von Helicone, ohne so zu tun, als wäre es einfach

Helicone wurde von Mintlify übernommen, und seine Dienste befinden sich im Wartungsmodus. Wenn Sie entscheiden, wohin Sie wechseln, ist diese Seite die Übersicht Konzept für Konzept: was aus Ihrem Code werden muss, was INFRO kann und Helicone nicht konnte, die vier Dinge, die INFRO schlicht nicht hat – und der Abschnitt, den die meisten solcher Seiten weglassen: wann jemand anderes die bessere Antwort ist.

INFRO-Konten sind per Selbstregistrierung verfügbar. Katalog, Dokumentation und API-Vertrag sind öffentlich, das Gateway ist bereitgestellt, und alles über v1 hinaus ist als „Später“ markiert. Tarife und Testphase

Wo die Dinge stehen

Was angekündigt wurde

Im März 2026 gab Mintlify die Übernahme von Helicone bekannt und erklärte, Helicone werde im Wartungsmodus weiterlaufen; man werde „eng mit jedem Kunden zusammenarbeiten, um eine reibungslose Migration auf eine andere Plattform zu unterstützen“. Im Oktober 2026 änderte sich die Startseite von Helicone und lautet nun „Helicone is no longer part of Mintlify. Details to come soon.“ Die Anmeldeseite der Cloud-Version meldet weiterhin „Sign ups are disabled“.

Was nicht angekündigt wurde

Kein Abschaltdatum, keine Zusage zur Datenaufbewahrung und bisher keine Erklärung der Änderung im Oktober: wer Helicone jetzt betreibt und was das für die Roadmap bedeutet. Lesen Sie das so, wie es geschrieben steht: Diese Woche muss deshalb nichts getan werden. Es ist ein Grund, bewusst zu entscheiden statt zu eilen, und vorher die eigenen Seiten von Helicone erneut zu lesen.

Warum es diese Seite überhaupt gibt

Weil die ehrliche Antwort davon abhängt, wofür Sie Helicone genutzt haben, und die meisten Seiten, die Sie bei dieser Suche finden, Ihnen das nicht sagen werden. Wenn Sie wegen Tracing, Evaluationen und Prompt-Management dort waren, nennt der nächste Abschnitt ein besseres Ziel als uns.

Dieser Abschnitt steht absichtlich vor den Unterschieden. Ein großer Teil der Leser hat Helicone als Plattform für Observability und Evaluierung genutzt, und für diese Aufgabe gibt es ein Produkt, das genau darum herum gebaut ist.

Langfuse beschreibt sich als Open-Source-KI-Engineering-Plattform für Agent-Evaluation und Observability: hierarchisches Tracing über LLM-Aufrufe, Tool-Aufrufe und Retrieval-Schritte, LLM-as-a-Judge und heuristische Evaluatoren, Prompt-Management mit Deployment und Rollback, Datensätze und Experimente, menschliche Annotation und ein Playground. Es steht unter MIT-Lizenz mit Selbsthosting auf Docker Compose, Kubernetes und Terraform und wurde im Januar 2026 von ClickHouse übernommen – was nach Darstellung von ClickHouse selbst bedeutet, dass es Open Source und selbst hostbar bleibt und der Cloud-Dienst wie bisher läuft.

Der Grund, sich INFRO anzusehen, ist ein anderes Problem in ähnlichem Gewand. Wenn Sie tatsächlich mehrere Anbieterkonten in mehreren Teams haben, Ausgaben, die niemand zuordnen kann, bis die Rechnung eintrifft, in jeder Codebasis anders geschriebene Wiederholungen und Fallbacks und keinen Genehmigungsschritt dafür, welches Modell ein Dienst aufrufen darf – dann ist das ein Control-Plane-Problem und kein Observability-Problem, und es ist das Problem, um das dieses Produkt gebaut ist. Viele Teams brauchen beides, und INFRO als Gateway zu betreiben, mit Tracing, das an einen Collector Ihrer Wahl exportiert wird, ist eine vernünftige Form.

Wählen Sie Langfuse, wenn

  • Sie waren bei Helicone vor allem wegen der Observability. Langfuse ist dieses Produkt, bewusst und in der Tiefe gebaut, und es ist das, was einem gleichwertigen Ziel am nächsten kommt.
  • Sie brauchen Prompt-Management oder Evaluatoren. INFRO hat keines von beiden und kein Datum dafür. Langfuse hat beides, und Evaluation ist eines der zwei Dinge, mit denen es führt.
  • Sie tracen Agents, nicht nur Modellaufrufe. Langfuse bildet einen Trace-Baum über Tool-Aufrufe und Retrieval-Schritte ab. INFRO erfasst jeweils eine Anfrage; einen Span-Baum setzen Sie in Ihrem eigenen Collector zusammen.
  • Sie wollen ohne Vertriebsgespräch selbst hosten oder diese Option offenhalten. Langfuse steht unter MIT-Lizenz, und jeder kann es betreiben. Die Tarife von INFRO sind gehostet; es läuft nur im Rahmen einer Enterprise-Vereinbarung in Ihrer eigenen Infrastruktur.

Langfuse ist weder Partner noch Wiederverkäufer noch Affiliate von INFRO. Wir verlinken es, weil es die ehrliche Antwort auf eine Frage ist, die diese Seite sonst unehrlich beantworten würde.

Die Objekte von Helicone im Vergleich zu unseren, gelesen aus der öffentlichen Dokumentation (erneut geprüft am 24. Oktober 2026) und abgeglichen mit dem, was das Gateway tatsächlich umsetzt. Vier Zeilen sagen, dass wir nichts haben; diese sind am lesenswertesten.

HeliconeWas es dort tutIn INFRO
Gateway-Integrationgleiche FormRichten Sie einen OpenAI-kompatiblen Client auf die Basis-URL des AI Gateway von Helicone und übergeben Sie Ihren Helicone-Schlüssel.Dieselbe Form: Basis-URL https://api.infro.io/v1, Schlüssel in Authorization: Bearer. Zwei Zeilen, eine pro Dienst.
Asynchrones Logging, außerhalb des AnfragepfadsnichtsEin OpenLLMetry-basierter Logger umschließt Ihr Anbieter-SDK, sodass Helicone nicht im kritischen Pfad Ihrer Anwendung liegt.Nichts Vergleichbares. INFRO ist ein Gateway und liegt daher immer im Pfad – das ist es, was routen, Failover durchführen und eine Anfrage gegen ein Budget ablehnen ermöglicht, und es ist ein echter Kompromiss, den Sie eingehen.
Wessen Anbieterkonto die Anfrage bedientandersDas Gateway kann Modellzugang liefern, und Helicone unterstützt außerdem eigene Anbieterschlüssel.Nur Ihre eigenen. Sie verbinden Anbieterkonten, die Sie bereits halten, Ihre Anbieter stellen Ihnen direkt zu Ihren eigenen Preisen Rechnung, und INFRO nimmt 0 % der Modellausgaben.
Benutzerdefinierte PropertiesandersBeliebige Tags, als Helicone-Property-<Name>-Anfrage-Header gesendet, für Filter und Kostenanalyse genutzt.Ein metadata-Objekt im Anfrage-Body, im Anfrageprotokoll als tag.<key> filterbar. Dieselbe Idee, ein anderer Ort – aus einem Header wird ein Body-Feld, was die größte einzelne Änderung bei der Portierung ist.
Endnutzer-TrackingandersHelicone-User-Id identifiziert einen Endnutzer, mit darauf aufbauenden Analysen zu Engagement, Bindung und Zufriedenheit pro Nutzer.metadata.user_id wird bei jeder Anfrage erfasst und filtert das Anfrageprotokoll und die Nutzungsgruppierung, sodass Kosten pro Endkunde beantwortbar sind. Es gibt keinen Bildschirm für Verhaltensanalysen pro Nutzer – keine Sitzungsdauer, Rückkehrrate oder Zufriedenheitsbewertung.
Sitzungen und Trace-BäumeandersHelicone-Session-Id, -Path und -Name gruppieren zusammengehörige Aufrufe in einer Ansicht, einschließlich Nicht-LLM-Schritten wie Vektorabfragen und Tool-Aufrufen, mit Eltern/Kind-Struktur aus dem Pfad.metadata.session_id gruppiert Anfragen im Protokoll, und Spans können aus dem Anfragepfad an Ihren eigenen OpenTelemetry-Collector gesendet werden. Was INFRO nicht hat, ist eine Sitzungsansicht mit einem Trace-Baum: Es erfasst Modellaufrufe, nicht die Schritte dazwischen.
Antwort-CachingandersHelicone-Cache-Enabled cacht vollständige Antworten am Edge, mit einer Bucket-Größe und einem Cache-Seed.Ein Exact-Match-Antwort-Cache für Chat Completions, standardmäßig aus und pro Organisation oder Projekt eingeschaltet. Eine identische Anfrage innerhalb der Time-to-live wird aus dem Cache beantwortet und erreicht Ihren Anbieter nie, sodass Ihr Anbieter sie nicht berechnet. Gesteuert wird über ein cache-Body-Feld oder X-INFRO-Cache-Header; ein Cache-Seed wird zu X-INFRO-Cache-Namespace. Es gibt keinen Bucket mehrerer gespeicherter Antworten und kein semantisches Matching (ähnlicher Prompts). Die Dokumentationsseite ist /docs/features/caching.
Benutzerdefinierte RatenlimitsandersHelicone-RateLimit-Policy legt ein Kontingent pro Fenster fest, in Anfragen oder Kosten, global, pro Nutzer oder pro benutzerdefinierter Property segmentiert.Stufen für die Anfragerate pro Schlüssel, als X-RateLimit-Limit gemeldet, plus Budgets auf Organisation, Projekt, Mitglied und Schlüssel, die Traffic am Limit mit 402 budget_exceeded ablehnen. Kostenlimits lassen sich gut abbilden; ein nach Endnutzer oder beliebiger Property segmentiertes Limit nicht.
Prompt-ManagementnichtsPrompts, außerhalb der Codebasis verwaltet, mit Versionen, die gegen den Produktionstraffic verglichen werden.Nichts, und nichts Geplantes, das wir nennen würden. Prompts bleiben in Ihrem Repository oder in einem Tool, das das richtig macht – Langfuse tut es.
Evaluatoren und ExperimentenichtsLLM-as-a-Judge und eigene Evaluatoren bewerten die Ausgabequalität, mit Prompt-Vergleich nebeneinander. Die Dokumentation von Helicone trägt einen Abkündigungshinweis zur Funktion Experiments.Nichts. INFRO bewertet keine Modellausgaben und hat keine Meinung dazu, ob eine Antwort gut war.
WebhooksandersSignierte Webhooks werden beim Abschluss einer Anfrage ausgelöst und enthalten Anfrage- und Antwort-Bodys, Kosten, Tokens und Latenz.Signierte Webhooks, aber nur für asynchrone Medien-Jobs – job.succeeded, job.failed, job.canceled. Es gibt keinen Abschluss-Hook pro Anfrage; das Anfrageprotokoll und GET /v1/requests sind der Weg, abgeschlossenen Traffic zu lesen.
Kosten pro AnfrageandersKosten pro Anfrage berechnet und nach Property, Nutzer und Modell aggregiert.Eine Schätzung dessen, was Ihr Anbieter berechnen wird, in der Antwort als usage.cost, wobei usage.price_source sagt, ob sie aus Ihrem ausgehandelten Preis, Ihrem Preis für dieses Modell oder dem Listenpreis des Herstellers stammt – und fehlend statt geraten, wenn kein Preis bekannt ist.
Fallbacks und Routing über mehrere Anbietergleiche FormAnbieter-Fallback über das Gateway.Benannte Routen mit Prioritäts- oder gewichteten Zielen über Ihre eigenen Verbindungen. Ein Ziel, das vor Beginn der Antwort in ein Timeout läuft oder 5xx liefert, wird anderswo wiederholt; sobald Bytes fließen, wird der Fehler weitergegeben, statt umgeleitet zu werden.
ModellrichtlinieandersKein dokumentiertes Helicone-Konzept auf den gelesenen Seiten; die nächste Kontrolle ist ein Ratenlimit.Eine Freigabeliste auf Organisations-, Projekt- oder Schlüsselebene. Die engste Ebene gewinnt, und alles außerhalb wird abgelehnt, bevor es etwas kostet.
Historische DatennichtsAnfragen, Properties, Sitzungen und Scores, die bereits in Helicone liegen.Kein Importer, und keiner geplant. Nichts von dem, was Sie dort protokolliert haben, erscheint hier. Exportieren Sie es aus Helicone und bewahren Sie es an einem Ort auf, den Sie kontrollieren, bevor Sie aufhören zu senden.
Open Source und SelbsthostingandersDie Plattform von Helicone ist Open Source und kann selbst betrieben werden.Das Gateway ist nicht Open Source. Seine Tarife sind gehostet; ein selbst gehostetes oder hybrides Deployment gibt es nur mit einer Enterprise-Vereinbarung. Wenn Sie es ohne eine selbst betreiben müssen, hören Sie hier auf.Enterprise — Über einen Enterprise-Vertrag statt per Selbstregistrierung verfügbar.

Unsere Lesart der veröffentlichten Dokumentation von Helicone, kein Test und kein Benchmark. Ihre Dokumentation ist während des Übergangs umgezogen, und einige Funktionsseiten sind nicht mehr dort erreichbar, wo sie früher waren; wo wir etwas nicht bestätigen konnten, sagt die Zeile das, statt zu raten. Jede Quelle und das Datum, an dem wir sie geöffnet haben, steht unten auf dieser Seite.

Zwei Zeilen für die Verbindung. Die Arbeit steckt in den Annotationen: Helicone überträgt sie als Request-Header, INFRO im Request-Body, also ist überall, wo Sie einen Header setzen, eine Änderung nötig.

Vorher · Helicone-Gateway

import OpenAI from "openai";

// Before: the OpenAI SDK through Helicone's gateway, attribution in headers.
const sessionId = "sess_42";
const client = new OpenAI({
  baseURL: process.env.HELICONE_BASE_URL ?? "https://ai-gateway.helicone.ai",
  apiKey: process.env.HELICONE_API_KEY,
  defaultHeaders: {
    "Helicone-User-Id": "user_8f21",
    "Helicone-Session-Id": sessionId,
    "Helicone-Property-Feature": "summarizer",
  },
});

const completion = await client.chat.completions.create({
  model: "gpt-5.4-mini",
  messages: [{ role: "user", content: "Summarize this ticket in one line." }],
});
console.log(completion.choices[0]?.message.content);

Nachher · INFRO

import OpenAI from "openai";

// After: the same SDK through INFRO, on your own OpenAI account.
const sessionId = "sess_42";
const client = new OpenAI({
  baseURL: process.env.INFRO_BASE_URL ?? "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY,
});

const completion = await client.chat.completions.create({
  model: "openai/gpt-5.4-mini",
  messages: [{ role: "user", content: "Summarize this ticket in one line." }],
  // Attribution moves from headers into the body. Recorded on the request,
  // never forwarded to the provider.
  metadata: {
    user_id: "user_8f21",
    session_id: sessionId,
    feature: "summarizer",
  },
});
console.log(completion.choices[0]?.message.content);

Die Basis-URL und der Schlüssel

https://api.infro.io/v1, mit dem Schlüssel im Standard-Header Authorization: Bearer – also die Argumente baseURL und apiKey, die Ihr Client bereits hat. Wenn Ihr Code noch auf den älteren Proxy-Host pro Anbieter von Helicone zeigt und einen separaten Helicone-Auth-Header mitsendet, fällt dieser Header ganz weg; INFRO verwendet keinen.

Die Modell-ID

Modelle werden als vendor/model adressiert, zum Beispiel anthropic/claude-opus-5. GET /v1/models listet, was Ihr Schlüssel tatsächlich aufrufen kann, also das, was Ihre eigenen verbundenen Anbieterkonten bereitstellen – ein Modell, das keine Verbindung abdeckt, liefert 503 no_provider_connected und nennt den Anbieter, den Sie verbinden müssen.

Die Annotationen

Helicone-User-Id wird zu metadata.user_id, Helicone-Session-Id wird zu metadata.session_id, und jedes Helicone-Property-X wird zu einem Schlüssel unter metadata.tags, im Anfrageprotokoll filterbar als tag.x. In TypeScript ist OpenAIs eigener metadata-Typ eine flache String-Map, daher braucht das verschachtelte tags-Objekt einen Cast; Pythons extra_body nimmt es so, wie es ist.

Eines lohnt sich auszuprobieren, bevor Sie sich festlegen: Die asynchrone Integration von Helicone umschließt Ihren Anbieter-Client, statt im Netzwerkpfad zu sitzen, und loggt daher prinzipiell weiter, während die Basis-URL hierher zeigt. Wir haben diese Kombination nicht getestet und können sie nicht zusichern – probieren Sie es zuerst mit einem Dienst und lesen Sie auf dieser Seite GET /v1/requests, um zu prüfen, ob beide übereinstimmen, was passiert ist.

Vier Dinge, die sich alle daraus ergeben, ein Gateway zu sein, das auf Ihren eigenen Anbieterkonten läuft, statt eines Loggers, der sie beobachtet.

Das Konto, das die Anfrage bedient hat, ist Ihres, und es wird benannt
Jede Antwort enthält provider – den Anbietertyp, dessen Konto sie ausgeführt hat – und connection, die ID der genutzten Verbindung, daneben route und route_name, wenn eine Route sie aufgelöst hat. Hinter dem Gateway steht kein Pool, und auf den Traffic gibt es keine Marge: Ihr Anbieter stellt Ihnen zu Ihren eigenen Preisen Rechnung, und INFRO berechnet ein Abonnement für die Schicht.
Kosten sind eine Schätzung, die sagt, woher sie stammt
usage.cost ist eine Schätzung der Rechnung Ihres Anbieters für diese Anfrage, und usage.price_source sagt, wie sie zustande kam – custom_provider für Ihren ausgehandelten Preis beim bedienenden Anbieter, custom für Ihren Preis für dieses Modell, list für den veröffentlichten Preis des Herstellers. Ist kein Preis bekannt, wird die Anfrage als ohne Preisangabe erfasst und nicht als null, denn eine Null in einer Kostenspalte ist eine Behauptung und ein Fehlen eine Tatsache.
Ein Budget kann eine Anfrage ablehnen
Limits auf Organisation, Projekt, Mitglied und Schlüssel, mit Warnschwellen, die Sie festlegen. Am Limit liefert das Gateway 402 budget_exceeded, statt Sie hinterher per E-Mail über die Überschreitung zu informieren – das ist der Unterschied zwischen einem Budget und einem Bericht.
Die Schätzungen werden gegen die Abrechnung des Anbieters geprüft
Ein täglicher Durchlauf liest die Kosten-APIs von OpenAI und Anthropic mit einer separaten Admin-Zugangsberechtigung und speichert die gemeldete Zahl neben dem, was INFRO geschätzt hat, sodass Sie eine Abweichung sehen und keine Zahl, der Sie vertrauen müssen. Nur diese beiden Anbieter haben einen Adapter; ein Anbieter ohne zeigt keine Abweichung statt einer Abweichung von null, und Bedrock, Vertex und Azure führen ihre Kosten im Abrechnungssystem der umgebenden Cloud.

Was nicht übernommen wird

Es gibt keinen Importer. Nichts, was Sie in Helicone protokolliert haben, erscheint in INFRO, und nichts hier greift darauf zurück. Exportieren Sie, was Sie brauchen, solange deren Dienst noch läuft.

  • Ihre Anfragehistorie. Es gibt keinen Importer und keinen geplanten. Exportieren Sie zuerst aus Helicone, was Sie brauchen; nichts in INFRO greift darauf zurück.
  • Benutzerdefinierte Properties, Sitzungen und Nutzer-IDs bereits erfasst. Annotationen beginnen mit der ersten Anfrage, die Sie hierher senden.
  • Gecachte Antworten. Einträge im Cache eines anderen Produkts ziehen nicht um; der Cache von INFRO startet leer und füllt sich aus Ihrem eigenen Traffic, und er trifft nur exakte Anfragen, nie ähnliche.
  • Prompts und Evaluator-Scores. Dafür gibt es kein Ziel.
  • Ein Helicone-Deployment, das Sie selbst betrieben haben. Die Tarife von INFRO sind gehostet; INFRO in Ihrer eigenen Infrastruktur zu betreiben ist eine Enterprise-Vereinbarung und kein Migrationsschritt.

Wenn die Control Plane der Teil ist, den Sie wollen

Lesen Sie zuerst den API-Vertrag – er ist vollständig veröffentlicht, einschließlich der Teile, die es noch nicht gibt, sodass Sie entscheiden können, bevor Sie etwas schreiben. Sagen Sie uns dann, was Sie betreiben, und wir sagen Ihnen ehrlich, ob sich der Wechsel lohnt.

14 Tage testen Dokumentation lesenMit den Alternativen vergleichen

Quellen

Jede Aussage auf dieser Seite über Helicone oder Langfuse stammt aus einer dieser Quellen, mit dem Datum, an dem wir sie gelesen haben. Nichts ist aus einem Test, einem Benchmark oder einem Gespräch abgeleitet.