Esegui le decisioni Jev tramite INFRO.

Punta l'SDK di TypeSafe su INFRO

-Removed: TYPESAFE_API_KEY=<your TypeSafe key>+Added: TYPESAFE_API_KEY=<your INFRO gateway key>+Added: TYPESAFE_BASE_URL=https://api.infro.io+Added: TYPESAFE_DEFAULT_MODEL=jev-1.13.0  # optional: pin a version

curl https://api.infro.io/v1/systemone \
  -H "Authorization: Bearer $INFRO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "jev-1.13.0",
    "state": "I was charged twice. Please refund one of them.",
    "questions": {
      "refund_request": { "type": "noul", "instructions": "Is the customer asking for a refund?" }
    }
  }'

Cosa fa INFRO con ogni decisione

1. 1

   Ambito della chiave

   La chiave del gateway viene controllata per prima. Una chiave può essere limitata a TypeSafe, a modelli specifici, a un progetto e a un ambiente.

2. 2

   Limite di spesa

   Prima di chiamare TypeSafe, la dimensione in byte della richiesta viene riservata su ogni limite di spesa che la riguarda: organizzazione, progetto, chiave, membro e cliente finale. Oltre un limite bloccante la richiesta viene rifiutata, e TypeSafe non viene mai chiamato.

3. 3

   La tua connessione TypeSafe

   La richiesta va a TypeSafe con la tua chiave. Con più chiavi TypeSafe collegate, le richieste vengono distribuite tra di esse, e una chiave limitata o rifiutata passa la richiesta alla successiva.

4. 4

   Risposte, costo e una registrazione

   Le risposte di TypeSafe tornano invariate, con la versione che ha risposto e usage.cost: l'addebito TypeSafe stimato al prezzo di listino di TypeSafe o a quello che hai negoziato. Ogni decisione viene registrata con route, connessione, tentativi e costo stimato, e i suoi metadati possono essere esportati nel tuo collector OpenTelemetry.

Cosa contiene una risposta

{
  "id": "req_…",
  "model": "jev-1.13.0",
  "answers": {
    "refund_request": { "type": "noul", "noul": 0.91 }
  },
  "usage": {
    "input_tokens": 1000,
    "output_tokens": 0,
    "cost": 0.000042,
    "price_source": "list"
  },
  "route": "primary",
  "route_name": null,
  "provider": "typesafe",
  "connection": "conn_…"
}

Chi fattura cosa

Da sapere prima di iniziare

• Jev risponde su POST /v1/systemone, non sulle chat completion; un client OpenAI non può chiamarlo.
• I guardrail di INFRO ispezionano solo le chat completion. Non leggono le richieste Jev, e una policy di guardrail impostata per bloccare gli endpoint che non può ispezionare rifiuta POST /v1/systemone.
• TypeSafe imposta i propri limiti: 64k token per richiesta e limiti di frequenza che adegua al variare della domanda (docs.typesafe.ai/models, verificato il 6 ottobre 2026). INFRO restituisce il 429 di TypeSafe con il suo Retry-After.
• I corpi di richieste e risposte vengono salvati solo se la tua organizzazione ha attivato il logging dei prompt.
• Il Playground della console non esegue ancora Jev.

Guide pratiche su Jev

• What is Jev? TypeSafe's System One model, explained

  Jev answers typed questions about your data with probabilities instead of text. How TypeSafe's System One API works, what it costs, and where it fits.

• Jev use cases: where typed AI decisions fit in a company

  Support triage, moderation, model routing, RAG reranking, claims and compliance: how companies can use TypeSafe's Jev, with request designs and thresholds.

• How Jev cuts the cost of AI decisions: the arithmetic

  Jev bills input tokens only, at $0.042 per million. Worked arithmetic for ticket triage, cascades and guardrail checks against chat models at list rates.

• Jev for LLM guardrails and model routing

  Using TypeSafe's Jev to screen prompts, check replies and tool calls, and pick which LLM answers: request designs, thresholds and where the checks sit.

Domande

Mi serve un account TypeSafe?

Sì. INFRO esegue Jev sul tuo account TypeSafe, con la tua chiave, e TypeSafe ti fattura direttamente; INFRO non fa parte di quella transazione.

INFRO modifica le risposte di Jev?

No. Le risposte di TypeSafe vengono restituite così come TypeSafe le ha inviate. INFRO aggiunge accanto la versione che ha risposto, il costo stimato, la route e la connessione.

Una parte del traffico può continuare ad andare direttamente a TypeSafe?

Sì. Una connessione TypeSafe in INFRO non cambia nulla del tuo account TypeSafe. Le richieste inviate direttamente a TypeSafe continuano a funzionare; INFRO non le registra.