Jevの意思決定をINFRO経由で実行。

TypeSafeのSDKをINFROに向ける

-Removed: TYPESAFE_API_KEY=<your TypeSafe key>+Added: TYPESAFE_API_KEY=<your INFRO gateway key>+Added: TYPESAFE_BASE_URL=https://api.infro.io+Added: TYPESAFE_DEFAULT_MODEL=jev-1.13.0  # optional: pin a version

curl https://api.infro.io/v1/systemone \
  -H "Authorization: Bearer $INFRO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "jev-1.13.0",
    "state": "I was charged twice. Please refund one of them.",
    "questions": {
      "refund_request": { "type": "noul", "instructions": "Is the customer asking for a refund?" }
    }
  }'

INFROが各意思決定に対して行うこと

1. 1

   キーの範囲

   最初にゲートウェイキーが確認されます。キーは、TypeSafe、指定したモデル、プロジェクト、環境に限定できます。

2. 2

   支出上限

   TypeSafeを呼び出す前に、リクエストのバイト数が、適用されるすべての支出上限（組織、プロジェクト、キー、メンバー、エンドカスタマー）に対して予約されます。ブロック型の上限を超えるとリクエストは拒否され、TypeSafeが呼び出されることはありません。

3. 3

   TypeSafeの接続

   リクエストはお客様自身のキーでTypeSafeに送られます。複数のTypeSafeキーを接続している場合、リクエストはそれらに分散され、レート制限や拒否を受けたキーは次のキーにリクエストを渡します。

4. 4

   回答、費用、記録

   TypeSafeの回答は変更されずに返され、応答したバージョンとusage.costが付きます。usage.costは、TypeSafeの定価または交渉済みの料金によるTypeSafeの推定請求額です。すべての意思決定はルート、接続、試行、推定費用とともに記録され、そのメタデータはOpenTelemetryコレクターにエクスポートできます。

レスポンスに含まれるもの

{
  "id": "req_…",
  "model": "jev-1.13.0",
  "answers": {
    "refund_request": { "type": "noul", "noul": 0.91 }
  },
  "usage": {
    "input_tokens": 1000,
    "output_tokens": 0,
    "cost": 0.000042,
    "price_source": "list"
  },
  "route": "primary",
  "route_name": null,
  "provider": "typesafe",
  "connection": "conn_…"
}

誰が何を請求するか

始める前に知っておきたいこと

• Jevが応答するのはPOST /v1/systemoneで、チャット補完ではありません。OpenAIクライアントからは呼び出せません。
• INFROのガードレールが検査するのはチャット補完だけです。Jevのリクエストは読み取らず、検査できないエンドポイントをブロックするよう設定したガードレールポリシーはPOST /v1/systemoneを拒否します。
• TypeSafeは独自の上限を設けています。1リクエストあたり64kトークン、そして需要に応じて調整されるレート制限です（docs.typesafe.ai/models、2026年10月6日確認）。INFROはTypeSafeの429を、そのRetry-Afterとともに返します。
• リクエストと回答の本文は、組織がプロンプトのログ記録をオンにした場合にのみ保存されます。
• コンソールのPlaygroundはまだJevを実行できません。

Jevに関するフィールドガイド

• What is Jev? TypeSafe's System One model, explained

  Jev answers typed questions about your data with probabilities instead of text. How TypeSafe's System One API works, what it costs, and where it fits.

• Jev use cases: where typed AI decisions fit in a company

  Support triage, moderation, model routing, RAG reranking, claims and compliance: how companies can use TypeSafe's Jev, with request designs and thresholds.

• How Jev cuts the cost of AI decisions: the arithmetic

  Jev bills input tokens only, at $0.042 per million. Worked arithmetic for ticket triage, cascades and guardrail checks against chat models at list rates.

• Jev for LLM guardrails and model routing

  Using TypeSafe's Jev to screen prompts, check replies and tool calls, and pick which LLM answers: request designs, thresholds and where the checks sit.

質問

TypeSafeのアカウントは必要ですか？

はい。INFROはJevを自社のTypeSafeアカウントで、お客様のキーで実行し、TypeSafeが直接請求します。INFROはその取引に関与しません。

INFROはJevの回答を変えますか？

いいえ。TypeSafeの回答は、TypeSafeが送ったとおりに返されます。INFROはその横に、応答したバージョン、推定費用、ルート、接続を加えます。

一部のトラフィックをTypeSafeに直接送り続けられますか？

はい。INFROでTypeSafeの接続を作っても、TypeSafeアカウントには何も変わりません。TypeSafeに直接送るリクエストはそのまま動作し、INFROはそれを記録しません。