Voer Jev-beslissingen uit via INFRO.

Richt de SDK van TypeSafe op INFRO

-Removed: TYPESAFE_API_KEY=<your TypeSafe key>+Added: TYPESAFE_API_KEY=<your INFRO gateway key>+Added: TYPESAFE_BASE_URL=https://api.infro.io+Added: TYPESAFE_DEFAULT_MODEL=jev-1.13.0  # optional: pin a version

curl https://api.infro.io/v1/systemone \
  -H "Authorization: Bearer $INFRO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "jev-1.13.0",
    "state": "I was charged twice. Please refund one of them.",
    "questions": {
      "refund_request": { "type": "noul", "instructions": "Is the customer asking for a refund?" }
    }
  }'

Wat INFRO met elke beslissing doet

1. 1

   Sleutelscope

   Eerst wordt de gatewaysleutel gecontroleerd. Een sleutel kan worden beperkt tot TypeSafe, tot specifieke modellen, tot een project en tot een omgeving.

2. 2

   Uitgavenlimiet

   Voordat TypeSafe wordt aangeroepen, wordt de grootte van het verzoek in bytes gereserveerd tegen elke uitgavenlimiet die erop van toepassing is — organisatie, project, sleutel, lid en eindklant. Boven een blokkerende limiet wordt het verzoek geweigerd en wordt TypeSafe nooit aangeroepen.

3. 3

   Je TypeSafe-verbinding

   Het verzoek gaat naar TypeSafe op je eigen sleutel. Met meerdere gekoppelde TypeSafe-sleutels worden verzoeken erover verdeeld, en een sleutel die een rate limit krijgt of wordt geweigerd, geeft het verzoek door aan de volgende.

4. 4

   Antwoorden, kosten en een registratie

   De antwoorden van TypeSafe komen ongewijzigd terug, met de versie die antwoordde en usage.cost: de geschatte TypeSafe-kosten tegen de lijstprijs van TypeSafe, of tegen de prijs die je hebt onderhandeld. Elke beslissing wordt vastgelegd met de route, verbinding, pogingen en geschatte kosten, en de metadata ervan kan naar je OpenTelemetry-collector worden geëxporteerd.

Wat een antwoord bevat

{
  "id": "req_…",
  "model": "jev-1.13.0",
  "answers": {
    "refund_request": { "type": "noul", "noul": 0.91 }
  },
  "usage": {
    "input_tokens": 1000,
    "output_tokens": 0,
    "cost": 0.000042,
    "price_source": "list"
  },
  "route": "primary",
  "route_name": null,
  "provider": "typesafe",
  "connection": "conn_…"
}

Wie wat factureert

Goed om te weten voordat je begint

• Jev antwoordt op POST /v1/systemone, niet op chat completions; een OpenAI-client kan het niet aanroepen.
• INFRO-guardrails inspecteren alleen chat completions. Ze lezen geen Jev-verzoeken, en een guardrail-policy die endpoints blokkeert die hij niet kan inspecteren, weigert POST /v1/systemone.
• TypeSafe stelt zijn eigen limieten — 64k tokens per verzoek, en rate limits die het aanpast naarmate de vraag verandert (docs.typesafe.ai/models, gecontroleerd op 6 oktober 2026). INFRO geeft de 429 van TypeSafe terug met de Retry-After.
• Request en response bodies worden alleen opgeslagen als je organisatie promptlogging heeft aangezet.
• De Playground in de console draait Jev nog niet.

Praktijkgidsen over Jev

• What is Jev? TypeSafe's System One model, explained

  Jev answers typed questions about your data with probabilities instead of text. How TypeSafe's System One API works, what it costs, and where it fits.

• Jev use cases: where typed AI decisions fit in a company

  Support triage, moderation, model routing, RAG reranking, claims and compliance: how companies can use TypeSafe's Jev, with request designs and thresholds.

• How Jev cuts the cost of AI decisions: the arithmetic

  Jev bills input tokens only, at $0.042 per million. Worked arithmetic for ticket triage, cascades and guardrail checks against chat models at list rates.

• Jev for LLM guardrails and model routing

  Using TypeSafe's Jev to screen prompts, check replies and tool calls, and pick which LLM answers: request designs, thresholds and where the checks sit.

Vragen

Heb ik een TypeSafe-account nodig?

Ja. INFRO draait Jev op je eigen TypeSafe-account, onder je sleutel, en TypeSafe factureert jou rechtstreeks; INFRO maakt geen deel uit van die transactie.

Verandert INFRO de antwoorden van Jev?

Nee. De antwoorden van TypeSafe worden teruggegeven zoals TypeSafe ze stuurde. INFRO voegt daarnaast de versie die antwoordde, de geschatte kosten, de route en de verbinding toe.

Kan een deel van het verkeer rechtstreeks naar TypeSafe blijven gaan?

Ja. Een TypeSafe-verbinding in INFRO verandert niets aan je TypeSafe-account. Verzoeken die rechtstreeks naar TypeSafe gaan, blijven werken; INFRO legt ze niet vast.