LLM 可观测性
INFRO vs Helicone
Helicone 是一个面向 LLM 应用的开源可观测性平台,涵盖日志、追踪、成本跟踪、评估、提示词管理和网关;对于已经在使用它的团队,它能很好地回答 AI 应用正在做什么这个问题。但新团队目前无法采用它:其云端注册页面显示注册已关闭。Mintlify 于 2026 年 3 月宣布收购 Helicone 并将其置于维护模式;2026 年 10 月,Helicone 的首页改为声明它不再属于 Mintlify,详情将另行公布。目前没有任何关停的公告,因此已在使用它的团队可以按自己的节奏选择迁移目标,而不是在期限压力下行动。
INFRO 不是答案的时候
- 你已经在使用 Helicone,并且它运转正常。路线图冻结是计划迁移的理由,而不是本周就迁移的理由——仓促迁移可观测性层,正是你会丢失当初想要保存的历史记录的方式。
- 你希望按自己的节奏自托管开源软件,不经过销售沟通。INFRO 仅在企业协议下运行于你自己的基础设施中。Helicone 的代码仓库仍然公开,采用 Apache-2.0 许可,但采用一个所有权和路线图均未公布的代码库,是一个有期限的决定;当前可选的答案是 Langfuse,它采用 MIT 许可,有 Docker、Kubernetes 和 Terraform 文档,并且自 2026 年 1 月加入 ClickHouse 以来一直保持其路线图。
- 可观测性就是全部工作。你已经解决了路由和提供商接入,没有人要求会拒绝请求的预算,再加一个控制平面会是你不需要的范围。该看的是 Langfuse。
- 评估和提示词管理是首要需求。对 Helicone 来说,这是比对我们更深入的产品界面;我们根本不提供提示词管理,而 Langfuse 两者都有,并且仍在继续构建。
- 你想从零成本起步。INFRO 的入门套餐是付费的,并提供试用。自托管的 Langfuse 除基础设施和运维外不花任何钱,前提是你愿意自己运行它。
这一节不是客套话。如果其中某一条描述的是你,就去那样做吧——一位因听了我们的建议而采用了错误层级的读者,对我们来说比从未成为过读者更糟。
两者真正的分歧所在。
- 记录一项决策,不等于做出这项决策
- 可观测性层会准确地告诉你,你的应用做了什么、花了多少。控制平面还会决定它们接下来被允许做什么:项目可以调用哪些模型,在预算拒绝请求之前可以花多少,提供商性能下降时由哪条路由承载流量。这是不同的工作,而且只有其中一种能在事情发生的过程中改变结果。
- 只有一层,所以记录不会彼此矛盾
- 当路由和可观测性是两款独立产品时,路由器知道请求去了哪里,日志工具知道它长什么样,而把两者对上则是你的工作——通常发生在你最不想做数据建模练习的时候。在这里,被路由的请求就是被追踪、定价、归因并对照策略检查的那个请求。一条记录,没有缝隙。
- 可审计的成本,而不仅仅是看得见的成本
- 两款产品都会显示支出。INFRO 按厂商公布的费率估算每个请求,从 Team 套餐起则按你实际协商的费率估算,并在 Business 套餐中将当月估算与你的提供商自己的成本 API 核对并说明差异。对财务沟通有用的成果不是仪表盘上的数字,而是提供商的发票到来时你能站得住脚的数字。
- 媒体是一等公民
- 这一类别的可观测性工具是围绕 token 构建的。以秒和美元计量、作为任务提交并通过 webhook 交付的视频渲染,天然不适合这种形态——而对以媒体为主的产品来说,大部分支出恰恰在这里。
- 这些收购究竟说明了什么
- 2026 年,这一类别中好几款独立产品被收购:1 月 Langfuse 加入 ClickHouse,3 月 Helicone 加入 Mintlify,5 月 Portkey 加入 Palo Alto Networks,8 月 Stripe 同意收购 OpenRouter。这几乎是这个问题真实存在的最清楚的证据,也正因如此,我们能诚实地说的并不是 INFRO 永远不会被收购。而是:你的提供商账号始终在你的名下,API 兼容 OpenAI,你的请求和成本历史可以导出,离开只需改回你接入时改的那两行——这是这一段中唯一不取决于谁拥有我们的部分。
并排对比。
我们这一栏也有横线。一方全是勾的对比没人会信,而且理应如此。
| 能力 | Helicone | INFRO |
|---|---|---|
| 请求日志和追踪 | 是核心产品,开源 | 是 |
| 你自己的提供商账号 | 是 | 是按环境连接 |
| 每个请求的预估成本 | 是 | 是分项列出;按你的协商价,Team 套餐起 |
| 与提供商自己的账单对账 | 否 | 部分OpenAI 和 Anthropic,Business 套餐;会说明差异 |
| 路由、重试和故障转移 | 部分网关现已可用 | 是 |
| 会拒绝请求的预算 | 部分限额和告警 | 是组织、项目、成员、密钥 |
| 提示词管理和评估 | 是自成一个产品界面;路线图已冻结 | 否未构建,v1 不计划 |
| 图像、视频和音频 | 部分围绕 token 构建 | 是 |
| 自托管 | 是开源,Apache-2.0 | 部分企业协议 |
| 接受新客户 | 否已关闭注册,2026 年 3 月 | 是自助注册 |
这是我们对各产品公开文档的解读,截至 2026年10月。我们不引用竞争对手的价格——他们的价格会变,对别人的业务给出一个错误的数字,不如不给。认为某一行有误?请告诉我们,我们会更正。
已经在用 Helicone?阅读从 Helicone 迁移的指南:哪些代码要改,哪些可以沿用,哪些不行。
在比较两个以上的选项?查看 Helicone 的所有替代方案,了解各自更合适的场景。