Ejecuta decisiones de Jev a través de INFRO.

Apunta el SDK de TypeSafe a INFRO

-Removed: TYPESAFE_API_KEY=<your TypeSafe key>+Added: TYPESAFE_API_KEY=<your INFRO gateway key>+Added: TYPESAFE_BASE_URL=https://api.infro.io+Added: TYPESAFE_DEFAULT_MODEL=jev-1.13.0  # optional: pin a version

curl https://api.infro.io/v1/systemone \
  -H "Authorization: Bearer $INFRO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "jev-1.13.0",
    "state": "I was charged twice. Please refund one of them.",
    "questions": {
      "refund_request": { "type": "noul", "instructions": "Is the customer asking for a refund?" }
    }
  }'

Qué hace INFRO con cada decisión

1. 1

   Alcance de la clave

   Primero se comprueba la clave del gateway. Una clave se puede limitar a TypeSafe, a modelos concretos, a un proyecto y a un entorno.

2. 2

   Límite de gasto

   Antes de llamar a TypeSafe, el tamaño de la solicitud en bytes se reserva contra cada límite de gasto que le aplica: organización, proyecto, clave, miembro y cliente final. Si supera un límite bloqueante, la solicitud se rechaza y TypeSafe nunca recibe la llamada.

3. 3

   Tu conexión de TypeSafe

   La solicitud va a TypeSafe con tu propia clave. Con varias claves de TypeSafe conectadas, las solicitudes se reparten entre ellas, y una clave limitada por tasa o rechazada pasa la solicitud a la siguiente.

4. 4

   Respuestas, costo y un registro

   Las respuestas de TypeSafe vuelven sin cambios, con la versión que respondió y usage.cost: el cargo estimado de TypeSafe con su tarifa de lista o con la tarifa que negociaste. Cada decisión se registra con su ruta, conexión, intentos y costo estimado, y sus metadatos se pueden exportar a tu colector de OpenTelemetry.

Qué lleva una respuesta

{
  "id": "req_…",
  "model": "jev-1.13.0",
  "answers": {
    "refund_request": { "type": "noul", "noul": 0.91 }
  },
  "usage": {
    "input_tokens": 1000,
    "output_tokens": 0,
    "cost": 0.000042,
    "price_source": "list"
  },
  "route": "primary",
  "route_name": null,
  "provider": "typesafe",
  "connection": "conn_…"
}

Quién factura qué

Bueno saberlo antes de empezar

• Jev responde en POST /v1/systemone, no en chat completions; un cliente de OpenAI no puede llamarlo.
• Las barreras de protección de INFRO inspeccionan solo chat completions. No leen las solicitudes de Jev, y una política de barreras configurada para bloquear endpoints que no puede inspeccionar rechaza POST /v1/systemone.
• TypeSafe fija sus propios límites: 64k tokens por solicitud y límites de tasa que ajusta según la demanda (docs.typesafe.ai/models, revisado el 6 de octubre de 2026). INFRO devuelve el 429 de TypeSafe con su Retry-After.
• Los cuerpos de solicitud y respuesta se almacenan solo si tu organización activó el registro de prompts.
• El Playground de la consola aún no ejecuta Jev.

Guías prácticas sobre Jev

• What is Jev? TypeSafe's System One model, explained

  Jev answers typed questions about your data with probabilities instead of text. How TypeSafe's System One API works, what it costs, and where it fits.

• Jev use cases: where typed AI decisions fit in a company

  Support triage, moderation, model routing, RAG reranking, claims and compliance: how companies can use TypeSafe's Jev, with request designs and thresholds.

• How Jev cuts the cost of AI decisions: the arithmetic

  Jev bills input tokens only, at $0.042 per million. Worked arithmetic for ticket triage, cascades and guardrail checks against chat models at list rates.

• Jev for LLM guardrails and model routing

  Using TypeSafe's Jev to screen prompts, check replies and tool calls, and pick which LLM answers: request designs, thresholds and where the checks sit.

Preguntas

¿Necesito una cuenta de TypeSafe?

Sí. INFRO ejecuta Jev en tu propia cuenta de TypeSafe, con tu clave, y TypeSafe te factura directamente; INFRO no forma parte de esa transacción.

¿INFRO cambia las respuestas de Jev?

No. Las respuestas de TypeSafe se devuelven tal como TypeSafe las envió. INFRO agrega a su lado la versión que respondió, el costo estimado, la ruta y la conexión.

¿Puede parte del tráfico seguir yendo directo a TypeSafe?

Sí. Una conexión de TypeSafe en INFRO no cambia nada de tu cuenta de TypeSafe. Las solicitudes enviadas directamente a TypeSafe siguen funcionando; INFRO no las registra.