Jev: що це і як із ним працювати

Практичний гайд по першій моделі класу System One від TypeSafe · для @aizvestia · вересень 2026

Що це

Jev - перша публічна модель нового класу System One від TypeSafe. Це не чат-модель і не «ще одна LLM з JSON-режимом»: Jev взагалі не генерує текст. Ти надсилаєш state (контекст: текст, JSON чи масив) і список типізованих питань, а отримуєш машинні рішення: обраний варіант, скор по шкалі чи ймовірність «так» - плюс розподіл імовірностей і confidence по кожній відповіді. Самі творці описують це однією фразою: «smart if-statements» - розумні if-else для коду. Найяскравіший приклад - пошта: Jev проглядає кожен лист і вирішує «спам, впевненість 94%», «потрібна відповідь», «може почекати». Нічого не пише - лише сортує: 1700 листів за 18 центів.

Назва System One - від Канемана («Думай повільно... вирішуй швидко»): модель заточена під швидкі інтуїтивні судження, а не під повільне міркування. Кумедна деталь: співзасновник TypeSafe Diogo Almeida - співавтор RLHF, того самого методу, яким навчили ChatGPT. Тепер він робить ставку, що для автоматизації потрібен інший метод навчання.

Чим відрізняється від «попередніх речей»

Пост-тренінг мовних моделей пройшов три підходи:

Суть калібрування: якщо модель каже 0.8, на довгій серії таких відповідей правильними будуть приблизно 80%. Імовірність стає числом, на якому можна будувати логіку.

Практична різниця з LLM, яку «змусили» виводити JSON:

• Вивід типізований за побудовою. Модель фізично не може відповісти поза твоїми варіантами - не 99.99%, а 100%. Жодного парсингу й ретраїв на зламаний JSON.
• Кожна відповідь - розподіл імовірностей, а не просто вибір. Видно, коли варіант переміг упевнено, а коли модель обирала з двох майже рівних.
• Питання рахуються паралельно і незалежно: додавання десятка питань майже не змінює час відповіді (sub-second latency) і не створює «context rot».
• Дешевше і швидше: на welcome-сторінці консолі заявлено 20-200x швидше і 40-1000x дешевше за LLM (заява компанії, але легко перевірити).

Три примітиви

Нюанси, які економлять години:

• У Noul немає окремого confidence - саме значення і є ймовірністю. 0.5 значить «не знаю», а не «середина навичок». Хочеш виміряти рівень - пиши Score з описаними рівнями.
• У Choice додавай варіант «other» / «none of the above» на випадок, якщо список не покриває все.
• ID питання - для твого коду, модель його не бачить. Повний текст питання пиши в instructions.
• Якщо state - JSON, вказуй у питаннях точні шляхи в бектіках: `ticket.messages[0].text`.
• Одне питання = одне швидке судження. «Проаналізуй і запропонуй план дій» - погане питання. «Чи створює повідомлення терміновість?» - хороше.

Як почати за 5 хвилин

0. Без черги: Jev уже доступний у Vercel AI Gateway під іменем typesafe-ai/jev ($0.042/1M вхідних токенів) - якщо ти на Vercel, клич одразу через пакет ai, повз waitlist TypeSafe. І на OpenRouter: ~typesafe/jev-latest (OpenAI-сумісний API).

1. Playground. Заходиш на console.typesafe.ai/playground, вставляєш будь-який текст як state, додаєш питання, тиснеш Run. (Вхід зустрічає pop-quiz «Чи можна чатитися з Jev?» - правильна відповідь No.)

2. API напряму. Ключ береш у консолі, далі один ендпоінт:

curl -X POST https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "state": "Trying to connect my Stripe for 3 days, keeps failing. Help ASAP.",
    "model": "jev-latest",
    "questions": {
      "department": {
        "type": "choice",
        "instructions": "Which team should handle this",
        "criteria": {
          "billing": "Payment or subscription issues",
          "technical": "Bugs or integration problems"
        }
      },
      "is_urgent": { "type": "noul", "instructions": "The message conveys urgency" }
    }
  }'

У відповіді на кожне питання - обране значення, імовірності по всіх варіантах і confidence.

3. Python SDK (3.10+), клієнт сам читає TYPESAFE_API_KEY і кличе jev-latest:

pip install typesafe-sdk

from typesafe_sdk import Choice, Noul, Score, TypeSafeClient

client = TypeSafeClient()
response = client.system_one(
    state=ticket,
    questions={
        "department": Choice(
            instructions="Which team should handle this",
            criteria={
                "billing": "Payment or subscription issues",
                "technical": "Bugs or integration problems",
            },
        ),
        "is_urgent": Noul(instructions="The message conveys urgency"),
    },
)
print(response.answers["department"].choice)   # "billing"
print(response.answers["is_urgent"].noul)      # 0.999

Для JS є @typesafe-ai/sdk, а для агентів (Claude Code, Codex тощо) - готовий скіл: npx skills add typesafe-ai/skills --skill typesafe-ai. Скіл спеціально вчить агентів слати питання пачками - агенти люблять витрачати запит на питання.

Чотири головні патерни

1. Speculative fan-out. Усі питання з одним state - в один запит, включно зі «спекулятивними», які знадобляться не завжди. Зайве питання коштує копійки, час відповіді майже не росте. Кукбук TypeSafe: 13 питань одним запитом - приблизно в 12 разів дешевше і в 10 разів швидше, ніж 13 окремих запитів, відповіді ті самі.
2. Confidence-gated routing. Відповідь каже «що», confidence - «чи діяти». Три зони: висока - дій автоматично; середня - уточни чи познач на рев'ю; низька - ескалюй людині або reasoning-моделі. Пороги залежать від ризику: показати не той екран можна при 0.6, проводити платіж - тільки при 0.9+.
3. Composite scoring. Складне судження розбивай на атомарні Score і складай з вагами в коді. Пріоритет тікета = severity * 0.5 + frustration * 0.3 + actionability * 0.2. Пріоритети змінилися - правиш коефіцієнт, а не переписуєш промпт.
4. Intent routing. Класифікуєш вхідний запит і роутиш: детермінований код, дешева модель, дорога reasoning-модель чи людина.

Ціни і ліміти (jev-1.13.0)

• $0.042 за мільйон вхідних токенів ($42/Btok), вихідні токени безкоштовні.
• Ліміти: 250k токенів/сек, 1200 запитів/хв (динамічні, можуть змінюватися).
• Контекст: 64k токенів на запит; state + найдовше питання - до 32k (приблизно 150k символів англійського тексту).
• Тільки текст: рядок, JSON-об'єкт, масив. Зображень, аудіо, відео - нема.
• Сервер у us-west - з Європи латентність вища, ніж зі США.
• jev-latest - аліас на поточну версію. Якщо тюнив пороги під версію - пінь jev-1.13.0 явно: аліас поїде при наступному релізі.
• Англійська - основна мова навчання, інші мови працюють гірше. На українському контенті тестуй окремо і стеж за confidence.
• Fine-tuning немає - свій домен задаєш через state і критерії питань.

Слабкі місця (чесно з їхніх же доків)

У jev-1.13 є опублікована сторінка «jaggedness» - чесний список того, що модель не вміє:

• Не генератор тексту. Не пиши ним тексти і не вичавлюй генерацію чейнінгом Choice.
• Погано рахує. Арифметика, підрахунок елементів, інтервали між датами - у код. Модель відповідає на смислові питання, не на обчислювальні.
• Дати читає як текст. «Яка дата раніша» ненадійно. Витягуй компоненти Choice-ами (місяць - 12 варіантів + «не вказано»), збирай дату і порівнюй у коді.
• Відповідає буквально - на написане питання, а не на задумане. Заперечення і подвійні непрямі формулювання - уникай.
• Context rot. Зайве сміття в state знижує точність: фільтруй до відправки.
• Інваріанти не гарантовані. Noul «просить повернення» і Noul «просить щось крім повернення» можуть дати 0.72 і 0.47 - у сумі 1.19, і це нормально. Не перенось пороги між типами питань.
• Adversarial-контент може зсувати відповіді - state для неї дані, а не загроза. Тестуй edge cases перед продом.

Куди застосовувати

RAG rerankLLM guardrailscitation checkjailbreak detectticket routingmoderationcomplianceML featurescatalog matchingresume scoringlead scoring

Живий приклад: термінал BUY/SELL/HOLD по Bitcoin на Jev - jev-terminal.vercel.app. API віддає чесні імовірності, рішення приходить за частки секунди.

Ще приклад - миттєвий Generative UI: експеримент json-render + jev - Jev обирає з твоїх компонентів, дій і дизайн-системи, інтерфейс рендериться за мілісекунди.

Посилання

• Консоль і Playground: console.typesafe.ai
• Доки: docs.typesafe.ai
• Маніфест: typesafe.ai/manifesto