Gateway de LLM de código abierto que alojas tú mismo
INFRO vs LiteLLM
LiteLLM es uno de los gateways de LLM de código abierto más usados: un SDK de Python y un proxy autoalojado y compatible con OpenAI que llega a más de 100 proveedores, con claves virtuales, presupuestos por clave, usuario, equipo y cliente final, balanceo de carga y respaldos, seguimiento del gasto, caché, integraciones de guardrails y callbacks de registro. El núcleo tiene licencia MIT; las organizaciones, los registros de auditoría y algunos controles de administración están bajo una licencia enterprise comercial. Si quieres operar el gateway tú mismo, es la opción por defecto y se la ha ganado.
Por INFRO Editorial
Última revisión
- Quieres ejecutar el gateway en tu propia infraestructura en tus propios términos, sin acuerdo con el proveedor. LiteLLM está hecho para que cualquiera lo autoaloje; los despliegues autoalojados e híbridos de INFRO solo vienen con un acuerdo enterprise.
- Quieres código abierto que puedas leer, modificar y bifurcar, sin suscripción para el núcleo.
- Necesitas un proveedor que INFRO no conecta. Su catálogo de más de 100 proveedores es mucho más amplio que nuestra lista de tipos de proveedor.
- La gestión de prompts, la caché semántica o un proveedor de guardrails específico (Presidio, Lakera, Bedrock Guardrails y otros) forman parte del requisito. INFRO no tiene gestión de prompts, y sus guardrails son comprobaciones basadas en patrones de PII, secretos y tus propios términos en chat completions, más comprobaciones de clasificador solo sobre el prompt en tu propia conexión de modelo de decisión, en el plan Business.
- Llamas a los modelos desde Python y quieres el enrutamiento en el mismo proceso, como biblioteca, sin ningún salto por un gateway.
Esta sección no es una cortesía. Si alguno de estos casos te describe, elige LiteLLM: un cliente que adopta la capa equivocada por nuestro consejo es peor para nosotros que uno que nunca tuvimos.
Dónde se separan realmente.
- Software que ejecutas tú, o un servicio que usas
- El proxy de LiteLLM lo operas tú. Las claves virtuales y el seguimiento del gasto necesitan una base de datos Postgres; pasada una instancia, los límites compartidos y el estado del router necesitan Redis, o cada instancia aplica sus límites por su cuenta. Las actualizaciones, el escalado, las copias de seguridad y las guardias forman parte de adoptarlo, lo que conviene a un equipo de plataforma que ya opera este tipo de servicio y es trabajo real para uno que no. Los planes de INFRO son alojados: no hay nada que desplegar. El compromiso es el reflejo opuesto: tus solicitudes pasan por nuestro servicio y no por el tuyo. Un acuerdo enterprise puede poner INFRO en tu propia infraestructura; sin uno, ese es exactamente el caso en el que LiteLLM es la mejor opción.
- Dónde viven los controles de la organización
- En LiteLLM, las organizaciones y sus roles de administración, los registros de auditoría y el inicio de sesión único para más de cinco usuarios son funciones de la licencia enterprise. En INFRO, los proyectos, los entornos, cinco roles, las listas de modelos permitidos a nivel de organización, proyecto y clave, los presupuestos y un registro de auditoría de quién cambió qué política están en todos los planes, incluido el de entrada. El SSO con SAML/OIDC y SCIM llegan con el plan Business; son nuevos y todavía no se han ejecutado en producción contra el proveedor de identidad de un cliente, así que configuramos contigo la primera conexión.
- Costo estimado, y luego la cifra del propio proveedor
- Ambos productos estiman el costo de cada solicitud a partir de una tabla de precios y ambos aceptan tus propias tarifas. LiteLLM documenta como próxima en una versión futura una comprobación de su gasto contra la Costs API de OpenAI. En el plan Business, INFRO contrasta la estimación del mes con las APIs de costos de OpenAI y de Anthropic y declara la variación en lugar de suponer que no existe.
- No es una cosa o la otra
- Un proxy de LiteLLM que ya operas habla la API de OpenAI, así que se puede conectar a INFRO como un endpoint compatible con OpenAI: consérvalo para los proveedores a los que solo él llega, y pon los presupuestos, la atribución y el registro de auditoría de INFRO delante de todo el entorno.
Lo que cuesta el gateway con $2K, $20K y $60K al mes.
LiteLLM no cobra nada por su gateway con licencia MIT; lo que te cuesta son los servidores, la base de datos Postgres y las personas que lo mantienen funcionando, algo que ninguna tabla puede calcular por ti. INFRO es un plan fijo por volumen de solicitudes.
| Gasto mensual en modelos | $2,000 | $20,000 | $60,000 |
|---|---|---|---|
| LiteLLM, autoalojadoSin licencia; tus servidores, Postgres y las guardias van aparte y no se cuentan aquí | $0solo licencia | $0solo licencia | $0solo licencia |
| INFROPlan fijo por volumen de solicitudes, 0% de margen | $35Developer, 100K solicitudes | $199Team, 1M solicitudes | $599Business, 3M solicitudes |
Solo el cargo propio del gateway. El gasto en modelos es el mismo en todas las filas y no está incluido. El plan de INFRO depende de las solicitudes, no del gasto, así que la fila de INFRO supone un promedio de $0.02 de gasto en modelos por solicitud (100K, 1M, 3M solicitudes). Es una ilustración, no un promedio medido. Facturación mensual; los planes anuales cuestan menos al mes. Pon tus propias cifras en la calculadora de costo del gateway.
Donde LiteLLM cuesta menos: LiteLLM, autoalojado con $2,000 al mes ($0 frente a INFRO Developer a $35); LiteLLM, autoalojado con $20,000 al mes ($0 frente a INFRO Team a $199); LiteLLM, autoalojado con $60,000 al mes ($0 frente a INFRO Business a $599).
Qué implica dejar LiteLLM.
- 01Los clientes conservan el SDK de OpenAI: cambia la URL base de tu proxy de LiteLLM a
https://api.infro.io/v1y usa una clave del gateway de INFRO. - 02Cada proveedor de tu
model_listde LiteLLM pasa a ser una cuenta de proveedor conectada en INFRO; los alias de modelos pasan a ser idsvendor/modelo rutas con nombre. - 03Las claves virtuales pasan a ser claves del gateway con sus propios límites de gasto, proveedores y modelos permitidos; los equipos corresponden a proyectos y los presupuestos por usuario a los topes por cliente final (plan Team).
- 04Los ajustes del router (respaldos, reintentos, balanceo de carga) pasan a ser los destinos y las reglas de fallo de una ruta.
- 05Todo lo que se basa en el SDK de Python de LiteLLM dentro del mismo proceso sigue igual, o llama a INFRO como a cualquier endpoint compatible con OpenAI. También puedes conservar el proxy y conectarlo a INFRO como proveedor compatible con OpenAI.
Lado a lado.
Nuestra columna también tiene guiones. Una comparación en la que un lado solo tiene marcas de verificación no se la cree nadie, y con razón.
| Capacidad | LiteLLM | INFRO |
|---|---|---|
| Una API para muchos proveedores | símás de 100 proveedores | sílos proveedores que conectas |
| Enrutamiento, reintentos y failover | sí | sí |
| Tus propias cuentas de proveedor | sílo ejecutas con tus claves | síconectadas por entorno |
| Autoalojamiento y código abierto | síNúcleo MIT | parcialautoalojado por acuerdo; el gateway no es de código abierto |
| Nada que desplegar ni operar | noPostgres; Redis a partir de más de una instancia | síservicio alojado |
| Presupuestos por clave, usuario, equipo y cliente final | sí | sí |
| Costo por solicitud con tus propias tarifas | síprecio a medida | sítarifas negociadas en Team y superiores |
| Conciliación con la factura del propio proveedor | parcialSolo OpenAI, anunciado para una versión futura | parcialOpenAI y Anthropic, plan Business; diferencia indicada |
| Guardrails y enmascaramiento de PII | símuchas integraciones | parcialpatrones de chat más clasificadores de prompts; plan Business |
| Gestión de prompts | sí | nono construido |
| Roles de organización y registro de auditoría | parciallicencia enterprise | sítodos los planes |
| Imagen, video y audio | sí | sí |
| Disponible hoy | sí | síregistro por cuenta propia |
Nuestra lectura de la documentación pública de cada producto a fecha de octubre de 2026. No citamos precios de la competencia: los suyos cambian y una cifra equivocada sobre el negocio de otro es peor que ninguna. ¿Crees que una fila es incorrecta? Dínoslo y la corregiremos.
Calcula cuánto vale la diferencia
Estima cuánto cuesta tu combinación actual de modelos con las tarifas de lista de tus proveedores y el plan que necesita, o pídenos que leamos tu uso real y te digamos dónde ayudaríamos y dónde no.
¿Ya usas LiteLLM? Lee la guía de migración desde LiteLLM: el código que cambia, lo que se conserva y lo que no.
¿Estás valorando más de dos opciones? Compara todas las alternativas a LiteLLM, con cuándo es mejor cada una.
Fuentes
Todas las cifras sobre LiteLLM de esta página proceden de sus propias páginas, abiertas en la fecha indicada.
- 1.litellm.ai (se abre en una pestaña nueva) — revisado el Oct 24, 2026. The LiteLLM gateway is MIT licensed and free to self-host. LiteLLM describes itself as open source and self-hosted, deployed into your own cloud; no LiteLLM-run hosted service was listed on its site or docs.
- 2.docs.litellm.ai/docs/simple_proxy (se abre en una pestaña nueva) — revisado el Oct 24, 2026. The LiteLLM gateway is a self-hosted server started with Docker, Helm or Terraform, backed by a Postgres database you run. LiteLLM records the cost of each request and shows spend per key, team, user and tag; each key carries a team, a budget and a model list.
- 3.docs.litellm.ai/docs/enterprise (se abre en una pestaña nueva) — revisado el Oct 24, 2026. LiteLLM's SSO is free for up to 5 users; more needs an Enterprise license. LiteLLM Enterprise is a license key on the same image, priced by deployment size and usage; no price is published.
- 4.docs.litellm.ai/blog/security-update-march-2026 (se abre en una pestaña nueva) — revisado el Oct 24, 2026. On 24 March 2026, litellm 1.82.7 and 1.82.8 on PyPI carried credential-stealing code for about 40 minutes; LiteLLM says the official Proxy Docker image was not affected and 1.83.0 is clean.