Vai al contenuto

Osservabilità degli LLM

INFRO vs Helicone

Helicone è una piattaforma di osservabilità open source per applicazioni LLM (log, tracing, monitoraggio dei costi, valutazioni, gestione dei prompt e un gateway) e per i team che già la usano risponde molto bene alla domanda su cosa sta facendo un'applicazione di IA. Non è un prodotto che un nuovo team possa adottare oggi: la pagina di registrazione al cloud dice che le registrazioni sono disattivate. Mintlify ha annunciato nel marzo 2026 l'acquisizione di Helicone e l'ha messo in modalità di manutenzione; nell'ottobre 2026 la homepage di Helicone è cambiata e ora dice che non fa più parte di Mintlify, con dettagli in arrivo. Non è stato annunciato nessuno spegnimento, quindi un team che lo usa già sceglie la destinazione con i propri tempi, non contro una scadenza.

Quando INFRO non è la risposta
  • Usi già Helicone e sta facendo il suo lavoro. Una roadmap congelata è un motivo per pianificare un passaggio, non per farlo questa settimana, e migrare in fretta un livello di osservabilità è il modo di perdere la cronologia per cui lo tenevi.
  • Vuoi ospitare software open source in autonomia, con i tuoi tempi e senza una conversazione commerciale. INFRO gira nella tua infrastruttura solo con un accordo enterprise. Il repository di Helicone è ancora pubblico e con licenza Apache-2.0, ma adottare un codebase di cui proprietà e roadmap non sono annunciate è una decisione con un orizzonte: la risposta attuale è Langfuse, con licenza MIT, documentato per Docker, Kubernetes e Terraform, che ha mantenuto la sua roadmap dall'ingresso in ClickHouse a gennaio 2026.
  • L'osservabilità è l'intero lavoro. Routing e accesso ai provider sono già risolti, nessuno chiede budget che rifiutino una richiesta e aggiungere un piano di controllo sarebbe un ambito che non ti serve. Langfuse è quello da guardare.
  • La priorità sono le valutazioni e la gestione dei prompt. Per Helicone era una superficie di prodotto più profonda che per noi, noi non offriamo affatto la gestione dei prompt, e Langfuse include entrambe e le sta ancora costruendo.
  • Vuoi partire a costo zero. Il piano di ingresso di INFRO è a pagamento, con una prova. Langfuse in self-hosting non costa nulla se non l'infrastruttura e la gestione, se sei disposto a gestirlo.

Questa sezione non è una cortesia. Se una di queste descrizioni ti riguarda, vai e fallo: un lettore che adotta il livello sbagliato per un nostro consiglio è peggio per noi di uno che non abbiamo mai avuto.

Dove i due divergono davvero.

Registrare una decisione non equivale a prenderla
Un livello di osservabilità ti dice, con precisione, cosa hanno fatto le tue applicazioni e quanto è costato. Un piano di controllo decide anche cosa possono fare dopo: quali modelli un progetto può chiamare, quanto può spendere prima che un budget rifiuti la richiesta, quale route porta il traffico quando un provider si degrada. Sono lavori diversi e solo uno dei due cambia un esito mentre accade.
Un solo livello, così i registri non possono contraddirsi
Quando routing e osservabilità sono prodotti separati, il router sa dove è andata una richiesta e il logger sa che aspetto aveva, e riconciliare i due è compito tuo, di solito proprio quando meno vuoi un esercizio di modellazione dei dati. Qui la richiesta instradata è la richiesta tracciata, prezzata, attribuita e verificata rispetto alle policy. Un solo record, nessuna cucitura.
Un costo che puoi verificare, non solo vedere
Entrambi i prodotti ti mostrano la spesa. INFRO stima ogni richiesta in base alla tariffa pubblicata dal vendor oppure, dal piano Team, in base alle tariffe che hai davvero negoziato e, nel piano Business, verifica la stima del mese con l'API dei costi del tuo provider e indica lo scostamento. Ciò che serve davvero in una conversazione con la finanza non è un numero in una dashboard: è un numero che puoi difendere quando arriva la fattura del provider.
I contenuti multimediali sono un caso di primo piano
Gli strumenti di osservabilità di questa categoria sono costruiti attorno ai token. Un rendering video misurato in secondi e dollari, inviato come job e consegnato tramite webhook, non si adatta naturalmente a questa forma, e per i prodotti ricchi di contenuti multimediali è lì che va la maggior parte della spesa.
Cosa dicono davvero le acquisizioni
Il 2026 ha portato via diversi prodotti indipendenti di questa categoria: Langfuse a ClickHouse a gennaio, Helicone a Mintlify a marzo, Portkey a Palo Alto Networks a maggio e, ad agosto, Stripe ha accettato di acquisire OpenRouter. È quasi la prova più chiara che il problema è reale, ed è anche il motivo per cui la cosa onesta da dire non è che INFRO non verrà mai acquistata. È che i tuoi account provider restano a tuo nome, l'API è compatibile con OpenAI, la cronologia delle richieste e dei costi si esporta, e andarsene significa tornare alle due righe che hai cambiato per arrivare: l'unica parte di questo paragrafo che non dipende da chi ci possiede.

Fianco a fianco.

Anche la nostra colonna ha dei trattini. Un confronto in cui una parte ha solo spunte non lo crede nessuno, e a ragione.

FunzionalitàHeliconeINFRO
Log e trace delle richiestesìil prodotto principale, open sourcesì
I tuoi account dei providersìsìcollegati per ambiente
Costo stimato per richiestasìsìdettagliato; alle tue tariffe negoziate dal piano Team
Riconciliazione con la fattura del providernoparzialeOpenAI e Anthropic, piano Business; scarto indicato
Routing, retry e failoverparzialegateway disponibilesì
Budget che rifiutano una richiestaparzialelimiti e avvisisìorganizzazione, progetto, membro, chiave
Gestione dei prompt e valutazionisìuna superficie di prodotto a sé; roadmap congelatanonon realizzato, non previsto per la v1
Immagini, video e audioparzialebasato sui tokensì
Self-hostingsìopen source, Apache-2.0parzialecontratto enterprise
Aperto a nuovi clientinoregistrazioni chiuse, marzo 2026sìregistrazione self-service

La nostra lettura della documentazione pubblica di ciascun prodotto al ottobre 2026. Non citiamo i prezzi dei concorrenti: cambiano e un numero sbagliato sull'attività di qualcun altro è peggio di nessun numero. Pensi che una riga sia sbagliata? Dicci e la correggeremo.

Calcola quanto vale la differenza

Stima quanto costa il tuo attuale mix di modelli ai prezzi di listino dei tuoi provider e il piano necessario, oppure lascia che leggiamo il tuo utilizzo reale e ti diciamo dove potremmo aiutarti e dove no.

Usi già Helicone? Leggi la guida alla migrazione da Helicone: il codice che cambia, cosa si mantiene e cosa no.

Valuti più di due opzioni? Confronta tutte le alternative a Helicone, con indicato quando ciascuna è la scelta migliore.