Execute decisões do Jev pelo INFRO.

Aponte o SDK da TypeSafe para o INFRO

-Removed: TYPESAFE_API_KEY=<your TypeSafe key>+Added: TYPESAFE_API_KEY=<your INFRO gateway key>+Added: TYPESAFE_BASE_URL=https://api.infro.io+Added: TYPESAFE_DEFAULT_MODEL=jev-1.13.0  # optional: pin a version

curl https://api.infro.io/v1/systemone \
  -H "Authorization: Bearer $INFRO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "jev-1.13.0",
    "state": "I was charged twice. Please refund one of them.",
    "questions": {
      "refund_request": { "type": "noul", "instructions": "Is the customer asking for a refund?" }
    }
  }'

O que o INFRO faz com cada decisão

1. 1

   Escopo da chave

   A chave do gateway é verificada primeiro. Uma chave pode ser limitada à TypeSafe, a modelos específicos, a um projeto e a um ambiente.

2. 2

   Limite de gastos

   Antes de a TypeSafe ser chamada, o tamanho da requisição em bytes é reservado contra cada limite de gastos que se aplica a ela — organização, projeto, chave, membro e cliente final. Acima de um limite bloqueante, a requisição é recusada e a TypeSafe nunca é chamada.

3. 3

   Sua conexão da TypeSafe

   A requisição vai para a TypeSafe com a sua própria chave. Com várias chaves da TypeSafe conectadas, as requisições são distribuídas entre elas, e uma chave com limite de taxa atingido ou recusada passa a requisição para a próxima.

4. 4

   Respostas, custo e um registro

   As respostas da TypeSafe voltam inalteradas, com a versão que respondeu e usage.cost: a cobrança estimada da TypeSafe pelo preço de tabela da TypeSafe ou pelo preço que você negociou. Cada decisão é registrada com sua rota, conexão, tentativas e custo estimado, e seus metadados podem ser exportados para o seu coletor OpenTelemetry.

O que uma resposta traz

{
  "id": "req_…",
  "model": "jev-1.13.0",
  "answers": {
    "refund_request": { "type": "noul", "noul": 0.91 }
  },
  "usage": {
    "input_tokens": 1000,
    "output_tokens": 0,
    "cost": 0.000042,
    "price_source": "list"
  },
  "route": "primary",
  "route_name": null,
  "provider": "typesafe",
  "connection": "conn_…"
}

Quem cobra o quê

Bom saber antes de começar

• O Jev responde em POST /v1/systemone, não em chat completions; um cliente da OpenAI não consegue chamá-lo.
• Os guardrails do INFRO inspecionam apenas chat completions. Eles não leem requisições do Jev, e uma política de guardrails configurada para bloquear endpoints que não consegue inspecionar recusa POST /v1/systemone.
• A TypeSafe define seus próprios limites — 64k tokens por requisição e limites de taxa que ela ajusta conforme a demanda (docs.typesafe.ai/models, verificado em 6 de outubro de 2026). O INFRO devolve o 429 da TypeSafe com seu Retry-After.
• Os corpos de requisição e de resposta são armazenados somente se sua organização ativou o registro de prompts.
• O Playground do console ainda não executa o Jev.

Guias práticos sobre o Jev

• What is Jev? TypeSafe's System One model, explained

  Jev answers typed questions about your data with probabilities instead of text. How TypeSafe's System One API works, what it costs, and where it fits.

• Jev use cases: where typed AI decisions fit in a company

  Support triage, moderation, model routing, RAG reranking, claims and compliance: how companies can use TypeSafe's Jev, with request designs and thresholds.

• How Jev cuts the cost of AI decisions: the arithmetic

  Jev bills input tokens only, at $0.042 per million. Worked arithmetic for ticket triage, cascades and guardrail checks against chat models at list rates.

• Jev for LLM guardrails and model routing

  Using TypeSafe's Jev to screen prompts, check replies and tool calls, and pick which LLM answers: request designs, thresholds and where the checks sit.

Perguntas

Preciso de uma conta na TypeSafe?

Sim. O INFRO executa o Jev na sua própria conta da TypeSafe, com a sua chave, e a TypeSafe cobra você diretamente; o INFRO não faz parte dessa transação.

O INFRO altera as respostas do Jev?

Não. As respostas da TypeSafe são devolvidas como a TypeSafe as enviou. O INFRO acrescenta ao lado delas a versão que respondeu, o custo estimado, a rota e a conexão.

Parte do tráfego pode continuar indo direto para a TypeSafe?

Sim. Uma conexão da TypeSafe no INFRO não muda nada na sua conta da TypeSafe. As requisições enviadas direto à TypeSafe continuam funcionando; o INFRO não as registra.