Jev: что это и как с ним работать

Практический гайд по первой модели класса System One от TypeSafe · для @aizvestia · сентябрь 2026

Что это

Jev - первая публичная модель нового класса System One от TypeSafe. Это не чат-модель и не «ещё одна LLM с JSON-режимом»: Jev вообще не генерирует текст. Ты присылаешь state (контекст: текст, JSON или массив) и список типизированных вопросов, а получаешь машинные решения: выбранный вариант, скор по шкале или вероятность «да» - плюс распределение вероятностей и confidence по каждому ответу. Сами создатели описывают это одной фразой: «smart if-statements» - умные if-else для кода. Самый наглядный пример - почта: Jev проглядывает каждое письмо и выносит «спам, уверен на 94%», «требует ответа», «может подождать». Ничего не пишет и не отвечает - только сортирует: 1700 писем за 18 центов.

Название System One - от Канемана («Думай медленно... решай быстро»): модель заточена под быстрые интуитивные суждения, а не под медленное рассуждение. Забавная деталь: сооснователь TypeSafe Diogo Almeida - соавтор RLHF, того самого метода, которым обучили ChatGPT. Теперь он делает ставку, что для автоматизации нужен другой метод обучения.

Чем отличается от «предыдущих вещей»

Пост-тренинг языковых моделей пережил три подхода:

Суть калибровки: если модель говорит 0.8, на длинной серии таких ответов правильными окажутся примерно 80%. Вероятность становится числом, на котором можно строить логику.

Практическая разница с LLM, которую «заставили» выводить JSON:

• Вывод типизирован по построению. Модель физически не может ответить вне твоих вариантов - не 99.99%, а 100%. Никакого парсинга и ретраев на сломанный JSON.
• Каждый ответ - распределение вероятностей, а не просто выбор. Видно, когда вариант победил уверенно, а когда модель выбирала из двух почти равных.
• Вопросы считаются параллельно и независимо: добавление десятка вопросов почти не меняет время ответа (sub-second latency) и не создаёт «context rot».
• Дешевле и быстрее: на welcome-странице консоли заявлено 20-200x быстрее и 40-1000x дешевле LLM (заявление компании, но легко проверить).

Три примитива

Нюансы, которые экономят часы:

• У Noul нет отдельного confidence - само значение и есть вероятность. 0.5 значит «не знаю», а не «середина навыка». Хочешь измерить уровень - пиши Score с описанными уровнями.
• В Choice добавляй вариант «other» / «none of the above» на случай, если список не покрывает всё.
• ID вопроса - для твоего кода, модель его не видит. Полный текст вопроса пиши в instructions.
• Если state - JSON, указывай в вопросах точные пути в бэктиках: `ticket.messages[0].text`.
• Один вопрос = одно быстрое суждение. «Проанализируй и предложи план действий» - плохой вопрос. «Создаёт ли сообщение срочность?» - хороший.

Как начать за 5 минут

0. Без очереди: Jev уже живёт в Vercel AI Gateway под именем typesafe-ai/jev ($0.042 за миллион входных токенов) - если ты на Vercel, зови его сразу через пакет ai, минуя waitlist в TypeSafe. И на OpenRouter: ~typesafe/jev-latest (OpenAI-совместимый API).

1. Playground. Заходишь на console.typesafe.ai/playground, вставляешь любой текст как state, добавляешь вопросы, жмёшь Run. (Вход встречает pop-quiz «Можно ли чатиться с Jev?» - правильный ответ No.)

2. API напрямую. Ключ берёшь в консоли, дальше один эндпоинт:

curl -X POST https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "state": "Trying to connect my Stripe for 3 days, keeps failing. Help ASAP.",
    "model": "jev-latest",
    "questions": {
      "department": {
        "type": "choice",
        "instructions": "Which team should handle this",
        "criteria": {
          "billing": "Payment or subscription issues",
          "technical": "Bugs or integration problems"
        }
      },
      "is_urgent": { "type": "noul", "instructions": "The message conveys urgency" }
    }
  }'

В ответе на каждый вопрос - выбранное значение, вероятности по всем вариантам и confidence.

3. Python SDK (3.10+), клиент сам читает TYPESAFE_API_KEY и зовёт jev-latest:

pip install typesafe-sdk

from typesafe_sdk import Choice, Noul, Score, TypeSafeClient

client = TypeSafeClient()
response = client.system_one(
    state=ticket,
    questions={
        "department": Choice(
            instructions="Which team should handle this",
            criteria={
                "billing": "Payment or subscription issues",
                "technical": "Bugs or integration problems",
            },
        ),
        "is_urgent": Noul(instructions="The message conveys urgency"),
    },
)
print(response.answers["department"].choice)   # "billing"
print(response.answers["is_urgent"].noul)      # 0.999

Для JS есть @typesafe-ai/sdk, а для агентов (Claude Code, Codex и др.) - готовый скилл: npx skills add typesafe-ai/skills --skill typesafe-ai. Скилл специально учит агентов слать вопросы пачками - агенты любят тратить запрос на вопрос.

Четыре главных паттерна

1. Speculative fan-out. Все вопросы с одним state - в один запрос, включая «спекулятивные», которые пригодятся не всегда. Лишний вопрос стоит копейки, время ответа почти не растёт. Кукбук TypeSafe: 13 вопросов одним запросом - примерно в 12 раз дешевле и в 10 раз быстрее, чем 13 отдельных запросов, ответы те же.
2. Confidence-gated routing. Ответ говорит «что», confidence - «действовать ли». Три зоны: высокая - действуй автоматически; средняя - уточни или пометь на ревью; низкая - эскалируй человеку или reasoning-модели. Пороги зависят от риска: показать не тот экран можно при 0.6, проводить платёж - только при 0.9+.
3. Composite scoring. Сложное суждение разбивай на атомарные Score и складывай с весами в коде. Приоритет тикета = severity * 0.5 + frustration * 0.3 + actionability * 0.2. Приоритеты поменялись - правишь коэффициент, а не переписываешь промпт.
4. Intent routing. Классифицируешь входящий запрос и роутишь: детерминированный код, дешёвая модель, дорогая reasoning-модель или человек.

Цены и лимиты (jev-1.13.0)

• $0.042 за миллион входных токенов ($42/Btok), выходные токены бесплатны.
• Лимиты: 250k токенов/сек, 1200 запросов/мин (динамические, могут меняться).
• Контекст: 64k токенов на запрос; state + самый длинный вопрос - до 32k (примерно 150k символов английского текста).
• Только текст: строка, JSON-объект, массив. Картинок, аудио, видео - нет.
• Сервер в us-west - из Европы латентность выше, чем из США.
• jev-latest - алиас на текущую версию. Если тюнил пороги под версию - пинь jev-1.13.0 явно: алиас уедет при следующем релизе.
• Английский - основной язык обучения, другие языки работают хуже. На русском контенте тестируй отдельно и следи за confidence.
• Fine-tuning нет - свой домен задаёшь через state и критерии вопросов.

Слабые места (честно из их же доков)

У jev-1.13 есть опубликованная страница «jaggedness» - честный список того, что модель не умеет:

• Не генератор текста. Не пиши им тексты и не выжимай генерацию чейнингом Choice.
• Считает плохо. Арифметика, подсчёт элементов, интервалы между датами - в код. Модель отвечает на смысловые вопросы, не на вычислительные.
• Даты читает как текст. «Какая дата раньше» ненадёжно. Извлекай компоненты Choice-ами (месяц - 12 вариантов + «не указано»), собирай дату и сравнивай в коде.
• Отвечает буквально - на написанный вопрос, а не на задуманный. Негации и двойные косвенности - избегать.
• Context rot. Лишний мусор в state снижает точность: фильтруй до отправки.
• Инварианты не гарантированы. Noul «просит возврат» и Noul «просит что-то кроме возврата» могут дать 0.72 и 0.47 - в сумме 1.19, и это нормально. Не переноси пороги между типами вопросов.
• Adversarial-контент может сдвигать ответы - state для неё данные, а не угроза. Тестируй edge cases перед продом.

Куда применять

RAG rerankLLM guardrailscitation checkjailbreak detectticket routingmoderationcomplianceML featurescatalog matchingresume scoringlead scoring

Живой пример: терминал BUY/SELL/HOLD по Bitcoin на Jev - jev-terminal.vercel.app. API отдаёт честные вероятности, решение приходит за доли секунды.

Ещё пример - мгновенный Generative UI: эксперимент json-render + jev - Jev выбирает из твоих компонентов, действий и дизайн-системы, и интерфейс рендерится за миллисекунды.

Ссылки

• Консоль и Playground: console.typesafe.ai
• Доки: docs.typesafe.ai
• Манифест: typesafe.ai/manifesto