Saltar al contenido

Guías de migraciónDesde un proxy de IA interno

De un proxy interno a un plano de control que no operas tú

Muchos equipos escribieron un pequeño servicio delante de OpenAI y Anthropic: guarda las claves, reintenta, registra, cuenta tokens contra una tabla de costos y aplica una cuota por equipo. Esta página asigna cada una de esas tareas a INFRO, dice cuáles siguen siendo tu código y muestra cómo mover un servicio a la vez con el proxy todavía en marcha.

Tu propio servicio delante de los proveedores: claves, reintentos, registros, cuotas

Las cuentas de INFRO son de autoservicio. El catálogo, la documentación y el contrato de la API son públicos, el gateway está desplegado, y todo lo que va más allá de v1 está marcado como Más adelante. Planes y prueba

Dónde están las cosas

Qué suelen hacer estos proxies

Guardar las claves de proveedor, emitir claves internas por equipo, reintentar y hacer failover, registrar solicitudes, valorar tokens con una tabla mantenida a mano y rechazar a un equipo que supera su cuota.

Cuánto cuesta mantenerlos

Alguien es responsable de la tabla de precios, los modelos nuevos, los parámetros nuevos de cada proveedor, la base de datos detrás de los registros y las guardias del propio proxy.

Dos formas de moverse

Reemplázalo: los servicios llaman a INFRO, que llama a tus proveedores. O mantenlo un tiempo detrás de INFRO: conecta el proxy como una conexión openai-compatible y mueve sus upstreams uno a uno.

Un proxy que escribiste hace exactamente lo que necesitas, y eso vale algo. Consérvalo si alguna de estas es la razón por la que existe.

  • Cambia la solicitud: plantillas de prompts, recuperación inyectada en el contexto, depuración de PII con tus propios modelos o posprocesamiento de la respuesta. Las barreras de protección de INFRO son reglas de patrones y comprobaciones con modelos de decisión; no ejecuta tu código en la ruta de la solicitud.
  • Debe correr dentro de tu red o en una región concreta. Los planes de INFRO están alojados en la red de Cloudflare; un despliegue autoalojado o híbrido es un acuerdo empresarial.
  • Sirve modelos que ninguna API de proveedor expone, como pesos que alojas en GPU internas, y nada más. INFRO puede enrutar a ese servidor como una conexión openai-compatible, pero el servidor sigue siendo tuyo.
  • Es pequeño, tiene dueño y nadie pide presupuestos, atribución ni failover. En ese caso, un gateway es una migración sin nada al final.

Los cambios, uno por fila. Todo lo que no aparece aquí queda como está.

 Tu proxyINFRO
URL baseEl host interno de tu proxy.https://api.infro.io/v1 (forma de OpenAI), /v1/messages (forma de Anthropic), /v1/responses (OpenAI Responses).
ClaveUna clave interna que tu proxy emitió por equipo o servicio.Una clave del gateway de INFRO por servicio, con su propia lista de modelos permitidos, lista de proveedores, rangos de IP, entorno y límite de gasto.
Id del modeloLos alias que haya definido tu proxy.vendor/model, o el nombre de una ruta: una ruta es un alias que se resuelve en una lista ordenada de tus conexiones, editada en la consola.
EncabezadosTus propios encabezados de equipo, usuario o función.X-INFRO-Feature, X-INFRO-User-Id, X-INFRO-Trace-Id, o metadata.user_id, metadata.session_id, metadata.tags en el cuerpo.

Antes · tu proxy

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://llm-proxy.internal.example.com/v1",
  apiKey: process.env.LLM_PROXY_KEY,
  defaultHeaders: { "X-Team": "search" },
});

await client.chat.completions.create({
  model: "default-chat",
  messages: [{ role: "user", content: "Hello" }],
});

Después · INFRO

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.infro.io/v1",
  apiKey: process.env.INFRO_API_KEY, // one key per service
  defaultHeaders: { "X-INFRO-Feature": "search" },
});

await client.chat.completions.create({
  model: "default-chat", // a route with the same name
  messages: [{ role: "user", content: "Hello" }],
});

Conserva tus alias

Crea una ruta para cada alias que definió tu proxy, con el mismo nombre, y los servicios siguen enviando el mismo model. Una clave puede quedar fijada a rutas con nombre, para que no pueda llamar a un modelo directamente.

Mueve un servicio a la vez

Conecta el propio proxy como una conexión openai-compatible y agrégalo como destino de una ruta. Los servicios pueden pasar primero a INFRO; los upstreams se mueven después del proxy a conexiones directas.

Los equipos pasan a ser proyectos

Las cuotas por equipo pasan a ser presupuestos de proyecto y límites de gasto por clave. Los miembros pueden quedar limitados a los proyectos en los que trabajan.

Lo que hace hoy tu configuración frente a INFRO, comprobado contra lo que implementa el gateway. Una fila dice que INFRO no tiene nada.

Tu proxyQué hace allíEn INFRO
Almacén de clavesmisma formaClaves de proveedor en la configuración del proxy o en un almacén de secretos.Conexiones de proveedor, selladas en reposo, varias claves por proveedor con las claves de reserva al final.
Claves internasmisma formaClaves que el proxy emite por equipo o servicio.Claves del gateway con listas de modelos permitidos, listas de proveedores, rangos de IP, un entorno, un límite de gasto, rotación y un interruptor de apagado.
Reintentos y respaldosmisma formaCódigo en el proxy.Rutas con destinos por prioridad o ponderados, reglas condicionales sobre la solicitud y reglas de fallo por tipo (429, 5xx, timeout, conexión, credencial, moderación).
Cuotasmisma formaContadores de tokens o dólares por equipo.Presupuestos por organización, proyecto, miembro, clave y cliente final que rechazan en el techo con 402, también bajo concurrencia.
Tabla de preciosdistintoUna tabla de precios por token mantenida a mano.La tarifa de lista del fabricante desde el catálogo de INFRO, tus tarifas negociadas donde las ingreses, y unpriced donde no se conoce ninguna, nunca cero.
Registros de solicitudesdistintoFilas en tu propia base de datos.El registro de solicitudes y las trazas en la consola, GET /v1/requests, exportaciones y spans hacia tu colector de OpenTelemetry. La captura de prompts está desactivada hasta que la actives.
Transformaciones de prompts y respuestasnadaPlantillas, recuperación y depuración con tu propia lógica.No disponible. Las barreras de protección bloquean, ocultan o marcan por patrones y con comprobaciones de modelos de decisión; INFRO no ejecuta tu código.
Modelos autoalojadosdistintovLLM, TGI u Ollama detrás del proxy.Una conexión openai-compatible a ese servidor, enrutada como cualquier otro proveedor. El servidor lo sigues operando tú.
Operarlo tú mismodistintoCorre donde lo despliegues.Alojado. Un despliegue autoalojado o híbrido es un acuerdo empresarial, no un plan.Empresas — Disponible con un acuerdo enterprise, no en autoservicio.

Lo que INFRO no hace

  • Ejecutar tu propio código en la ruta de la solicitud: plantillas de prompts, recuperación, transformaciones personalizadas.
  • Batch, Files, fine-tuning y Realtime, o embeddings en proveedores distintos de OpenAI, Azure OpenAI, Mistral o un endpoint compatible con OpenAI.
  • Fijación de región; la residencia está en la hoja de ruta, no disponible.
  • Un despliegue autoalojado sin un acuerdo empresarial.

Lo que no se traslada

  • Los registros de tu proxy. No hay importador; déjalos donde están.
  • Su tabla de precios. Ingresa en su lugar las tarifas negociadas en la consola; las tarifas de lista vienen del catálogo.
  • Transformaciones personalizadas. Se quedan en tu código, antes de la llamada a INFRO.

Preguntas

¿Puede INFRO ponerse delante de nuestro proxy actual?
Sí. Conecta el proxy como una conexión openai-compatible con su URL base y su clave, y enruta hacia él como hacia cualquier proveedor mientras mueves sus upstreams.
¿Cambian nuestros contratos con proveedores?
No. Conectas las cuentas de proveedor que tienes, y tus proveedores te siguen facturando directamente a tus propias tarifas. INFRO es una suscripción con 0% de margen sobre el gasto en modelos.
¿Qué sigue siendo nuestro código?
Todo lo que cambie el prompt o la respuesta: plantillas, recuperación, depuración personalizada, posprocesamiento.

Migra con nosotros o por tu cuenta

El programa de migración traslada en una llamada tu configuración de un proxy de IA interno a conexiones, rutas y presupuestos de INFRO, y migra contigo el primer servicio. Tus proveedores te siguen facturando directamente; INFRO es una suscripción y agrega 0% al gasto en modelos.

Prueba de 14 días Reserva una sesión de migraciónLeer la guía de inicio rápido

Fuentes

El comportamiento del SDK descrito en esta página proviene de estas fuentes, leídas el 19 de octubre de 2026.