LLM 관측
INFRO vs Helicone
Helicone은 LLM 애플리케이션을 위한 오픈 소스 관측 플랫폼으로, 로깅, 트레이싱, 비용 추적, 평가, 프롬프트 관리, 게이트웨이를 제공합니다. 이미 사용 중인 팀에게는 AI 애플리케이션이 무엇을 하는지 확인하는 데 매우 적합합니다. 하지만 새 팀이 지금 도입할 수 있는 제품은 아닙니다. 클라우드 가입 페이지에 가입이 비활성화되어 있다고 표시됩니다. Mintlify는 2026년 3월 Helicone 인수를 발표하고 유지보수 모드로 전환했으며, 2026년 10월에는 Helicone 홈페이지가 더 이상 Mintlify에 속하지 않는다는 문구로 바뀌고 자세한 내용은 추후 공지한다고 했습니다. 중단된다고 발표된 것은 없으므로, 이미 사용 중인 팀은 기한에 쫓기지 않고 자체 일정에 맞춰 전환 대상을 정하면 됩니다.
- 이미 Helicone을 쓰고 있고 제 역할을 하고 있는 경우입니다. 로드맵이 멈췄다는 것은 이전을 계획할 이유이지 이번 주에 이전할 이유가 아닙니다. 서둘러 관측 계층을 옮기면 그 기록을 지키려고 쓰던 이력을 잃게 됩니다.
- 영업 상담 없이 자체 일정에 맞춰 오픈 소스 소프트웨어를 직접 호스팅하려는 경우입니다. INFRO는 엔터프라이즈 계약이 있을 때만 사용자 인프라에서 실행됩니다. Helicone의 저장소는 여전히 공개되어 있고 Apache-2.0 라이선스이지만, 소유권과 로드맵이 발표되지 않은 코드베이스를 도입하는 것은 시간적 위험이 따르는 결정입니다. 현재 이 용도에 적합한 답은 Langfuse로, MIT 라이선스이며 Docker, Kubernetes, Terraform 문서가 있고 2026년 1월 ClickHouse에 합류한 이후에도 로드맵을 유지해 왔습니다.
- 관측이 전부인 경우입니다. 라우팅과 공급자 접근은 이미 해결되어 있고, 요청을 거부하는 예산을 요구하는 사람이 없으며, 컨트롤 플레인을 더하면 필요 없는 범위가 됩니다. Langfuse를 살펴보세요.
- 평가와 프롬프트 관리가 우선인 경우입니다. Helicone에게도 우리보다 깊은 제품 영역이었고, 저희는 프롬프트 관리를 아예 제공하지 않으며, Langfuse는 둘 다 갖추고 있고 계속 발전시키고 있습니다.
- 비용 0으로 시작하고 싶은 경우입니다. INFRO의 기본 요금제는 유료이며 체험이 있습니다. 직접 운영할 의향이 있다면 자체 호스팅 Langfuse는 인프라와 운영 노력 외에는 비용이 없습니다.
이 섹션은 겉치레가 아닙니다. 여기 해당하는 경우가 있다면 그쪽으로 가세요. 저희 조언으로 잘못된 계층을 도입한 독자는 처음부터 오지 않은 독자보다 저희에게 나쁩니다.
두 제품이 실제로 갈라지는 지점.
- 결정을 기록하는 것과 결정을 내리는 것은 다릅니다
- 관측 계층은 애플리케이션이 무엇을 했고 비용이 얼마였는지를 정확히 알려 줍니다. 컨트롤 플레인은 그에 더해 애플리케이션이 다음에 무엇을 할 수 있는지도 결정합니다. 프로젝트가 어떤 모델을 호출할 수 있는지, 예산이 요청을 거부하기 전까지 얼마를 쓸 수 있는지, 공급자 상태가 나빠지면 어느 라우트가 트래픽을 맡는지입니다. 이는 서로 다른 역할이며, 그중 하나만이 일이 진행되는 동안 결과를 바꿉니다.
- 계층이 하나이므로 기록이 서로 어긋날 수 없음
- 라우팅과 관측이 별개의 제품이면 라우터는 요청이 어디로 갔는지를, 로거는 요청이 어떻게 생겼는지를 알고, 둘을 맞추는 일은 사용자의 몫이 됩니다. 대개 데이터 모델링 작업을 가장 하고 싶지 않은 순간에 그렇습니다. 여기서는 라우팅된 요청이 곧 트레이스되고, 가격이 매겨지고, 귀속되고, 정책과 대조된 요청입니다. 기록은 하나이고 이음매가 없습니다.
- 볼 수 있는 비용만이 아니라 감사할 수 있는 비용
- 두 제품 모두 지출을 보여 줍니다. INFRO는 각 요청을 벤더의 공개 요율로, Team 요금제부터는 실제로 협상한 요율로 추정하고, Business 요금제에서는 그 달의 추정치를 공급자 자체의 비용 API와 대조해 편차를 명시합니다. 재무 논의에 쓸모 있는 산출물은 대시보드의 숫자가 아니라 공급자의 청구서가 도착했을 때 뒷받침할 수 있는 숫자입니다.
- 미디어를 일급으로 다룸
- 이 분야의 관측 도구는 토큰을 중심으로 만들어져 있습니다. 초와 달러로 측정되고, 작업으로 제출되어 웹훅으로 전달되는 동영상 렌더링은 이 형태에 자연스럽게 맞지 않으며, 미디어 비중이 큰 제품에서는 지출 대부분이 거기서 발생합니다.
- 인수 사례가 실제로 말해 주는 것
- 2026년에는 이 분야의 독립 제품 여러 곳이 인수되었습니다. 1월에 Langfuse가 ClickHouse로, 3월에 Helicone이 Mintlify로, 5월에 Portkey가 Palo Alto Networks로 갔고, 8월에는 Stripe가 OpenRouter 인수에 합의했습니다. 이 문제가 실재한다는 증거로는 이만큼 분명한 것이 없고, 그래서 저희가 솔직하게 할 수 있는 말은 INFRO가 결코 인수되지 않겠다는 것이 아닙니다. 공급자 계정은 계속 사용자 이름으로 남고, API는 OpenAI 호환이며, 요청과 비용 기록은 내보낼 수 있고, 떠나는 일은 도입할 때 바꾼 두 줄을 되돌리는 것이라는 점입니다. 이 단락에서 저희의 소유주가 누구인지에 좌우되지 않는 것은 그것뿐입니다.
나란히 비교.
저희 열에도 대시가 있습니다. 한쪽이 모두 체크인 비교는 아무도 믿지 않으며, 그럴 만합니다.
| 기능 | Helicone | INFRO |
|---|---|---|
| 요청 로깅과 트레이스 | 예핵심 제품, 오픈소스 | 예 |
| 자체 공급자 계정 | 예 | 예환경별로 연결 |
| 요청별 예상 비용 | 예 | 예항목별, Team부터 협상 요율 기준 |
| 공급자 자체 청구서와의 대조 | 아니요 | 부분OpenAI와 Anthropic, Business 요금제, 편차 명시 |
| 라우팅, 재시도, 페일오버 | 부분게이트웨이 사용 가능 | 예 |
| 요청을 거부하는 예산 | 부분한도 및 알림 | 예조직, 프로젝트, 멤버, 키 |
| 프롬프트 관리 및 평가 | 예자체 제품 영역, 로드맵 동결 | 아니요제공하지 않음, v1에는 계획 없음 |
| 이미지, 동영상, 오디오 | 부분토큰 중심 | 예 |
| 자체 호스팅 | 예오픈소스, Apache-2.0 | 부분엔터프라이즈 계약 |
| 신규 고객 가입 가능 | 아니요가입 중단, 2026년 3월 | 예셀프 서비스 가입 |
각 제품의 공개 문서를 2026년 10월 기준으로 저희가 읽은 내용입니다. 경쟁사의 가격은 인용하지 않습니다. 가격은 바뀌고, 다른 회사 사업에 대한 틀린 숫자는 없는 것보다 나쁘기 때문입니다. 틀린 행이 있다고 생각되면 알려 주세요. 고치겠습니다.
그 차이의 가치를 계산해 보세요
현재 모델 구성이 공급자 정가로 얼마나 드는지와 필요한 요금제를 추정하거나, 실제 사용량을 저희에게 보내 도움이 되는 곳과 그렇지 않은 곳을 확인하세요.
이미 Helicone 사용 중이신가요? Helicone에서 옮겨 오는 마이그레이션 가이드를 읽어 보세요: 바뀌는 코드, 그대로 이어지는 것과 그렇지 않은 것.
둘 이상의 옵션을 비교하고 계신가요? Helicone의 모든 대안 비교에서 각 옵션이 더 적합한 경우를 확인하세요.