跳到正文

LLM 可观测性

INFRO vs Helicone

Helicone 是一个面向 LLM 应用的开源可观测性平台,涵盖日志、追踪、成本跟踪、评估、提示词管理和网关;对于已经在使用它的团队,它能很好地回答 AI 应用正在做什么这个问题。但新团队目前无法采用它:其云端注册页面显示注册已关闭。Mintlify 于 2026 年 3 月宣布收购 Helicone 并将其置于维护模式;2026 年 10 月,Helicone 的首页改为声明它不再属于 Mintlify,详情将另行公布。目前没有任何关停的公告,因此已在使用它的团队可以按自己的节奏选择迁移目标,而不是在期限压力下行动。

INFRO 不是答案的时候
  • 你已经在使用 Helicone,并且它运转正常。路线图冻结是计划迁移的理由,而不是本周就迁移的理由——仓促迁移可观测性层,正是你会丢失当初想要保存的历史记录的方式。
  • 你希望按自己的节奏自托管开源软件,不经过销售沟通。INFRO 仅在企业协议下运行于你自己的基础设施中。Helicone 的代码仓库仍然公开,采用 Apache-2.0 许可,但采用一个所有权和路线图均未公布的代码库,是一个有期限的决定;当前可选的答案是 Langfuse,它采用 MIT 许可,有 Docker、Kubernetes 和 Terraform 文档,并且自 2026 年 1 月加入 ClickHouse 以来一直保持其路线图。
  • 可观测性就是全部工作。你已经解决了路由和提供商接入,没有人要求会拒绝请求的预算,再加一个控制平面会是你不需要的范围。该看的是 Langfuse。
  • 评估和提示词管理是首要需求。对 Helicone 来说,这是比对我们更深入的产品界面;我们根本不提供提示词管理,而 Langfuse 两者都有,并且仍在继续构建。
  • 你想从零成本起步。INFRO 的入门套餐是付费的,并提供试用。自托管的 Langfuse 除基础设施和运维外不花任何钱,前提是你愿意自己运行它。

这一节不是客套话。如果其中某一条描述的是你,就去那样做吧——一位因听了我们的建议而采用了错误层级的读者,对我们来说比从未成为过读者更糟。

两者真正的分歧所在。

记录一项决策,不等于做出这项决策
可观测性层会准确地告诉你,你的应用做了什么、花了多少。控制平面还会决定它们接下来被允许做什么:项目可以调用哪些模型,在预算拒绝请求之前可以花多少,提供商性能下降时由哪条路由承载流量。这是不同的工作,而且只有其中一种能在事情发生的过程中改变结果。
只有一层,所以记录不会彼此矛盾
当路由和可观测性是两款独立产品时,路由器知道请求去了哪里,日志工具知道它长什么样,而把两者对上则是你的工作——通常发生在你最不想做数据建模练习的时候。在这里,被路由的请求就是被追踪、定价、归因并对照策略检查的那个请求。一条记录,没有缝隙。
可审计的成本,而不仅仅是看得见的成本
两款产品都会显示支出。INFRO 按厂商公布的费率估算每个请求,从 Team 套餐起则按你实际协商的费率估算,并在 Business 套餐中将当月估算与你的提供商自己的成本 API 核对并说明差异。对财务沟通有用的成果不是仪表盘上的数字,而是提供商的发票到来时你能站得住脚的数字。
媒体是一等公民
这一类别的可观测性工具是围绕 token 构建的。以秒和美元计量、作为任务提交并通过 webhook 交付的视频渲染,天然不适合这种形态——而对以媒体为主的产品来说,大部分支出恰恰在这里。
这些收购究竟说明了什么
2026 年,这一类别中好几款独立产品被收购:1 月 Langfuse 加入 ClickHouse,3 月 Helicone 加入 Mintlify,5 月 Portkey 加入 Palo Alto Networks,8 月 Stripe 同意收购 OpenRouter。这几乎是这个问题真实存在的最清楚的证据,也正因如此,我们能诚实地说的并不是 INFRO 永远不会被收购。而是:你的提供商账号始终在你的名下,API 兼容 OpenAI,你的请求和成本历史可以导出,离开只需改回你接入时改的那两行——这是这一段中唯一不取决于谁拥有我们的部分。

并排对比。

我们这一栏也有横线。一方全是勾的对比没人会信,而且理应如此。

能力HeliconeINFRO
请求日志和追踪是核心产品,开源是
你自己的提供商账号是是按环境连接
每个请求的预估成本是是分项列出;按你的协商价,Team 套餐起
与提供商自己的账单对账否部分OpenAI 和 Anthropic,Business 套餐;会说明差异
路由、重试和故障转移部分网关现已可用是
会拒绝请求的预算部分限额和告警是组织、项目、成员、密钥
提示词管理和评估是自成一个产品界面;路线图已冻结否未构建,v1 不计划
图像、视频和音频部分围绕 token 构建是
自托管是开源,Apache-2.0部分企业协议
接受新客户否已关闭注册,2026 年 3 月是自助注册

这是我们对各产品公开文档的解读,截至 2026年10月。我们不引用竞争对手的价格——他们的价格会变,对别人的业务给出一个错误的数字,不如不给。认为某一行有误?请告诉我们,我们会更正。

算一算这些差异值多少

按你的提供商的公开价,估算你当前的模型组合要花多少、需要哪个套餐;或者让我们读取你的真实用量,告诉你我们在哪些地方能帮上忙、哪些地方帮不上。

已经在用 Helicone?阅读从 Helicone 迁移的指南:哪些代码要改,哪些可以沿用,哪些不行。

在比较两个以上的选项?查看 Helicone 的所有替代方案,了解各自更合适的场景。