Jev：它是什么以及如何使用

来自 TypeSafe 的首个 System One 模型实用指南 · 供 @aizvestia · 2026年9月

它是什么

Jev 是 TypeSafe 推出的首个公开 System One 模型。它不是聊天模型，也不是「又一个带 JSON 模式的 LLM」：Jev 完全不生成文本。你发送一个 state（上下文：文本、JSON 或数组）和一组类型化问题，得到的是机器可直接使用的决策：选中的选项、量表上的分数或「是」的概率 - 外加每个答案的概率分布和 confidence。创始人用一句话概括：「smart if-statements」- 给代码用的智能 if-else。 最直观的例子是邮件：Jev 浏览每封邮件并判定「垃圾邮件，94% 确定」「需要回复」「可以等」。它不写任何回信，只做分拣：1700 封邮件只要 18 美分。

System One 这个名字来自卡尼曼的《思考，快与慢》：模型为快速直觉判断而设计，而不是慢速推理。有趣的细节：TypeSafe 联合创始人 Diogo Almeida 是 RLHF 的共同发明人 - 正是训练 ChatGPT 的那个方法。现在他押注自动化需要另一种训练方法。

与「以前的东西」有何不同

语言模型的后训练经历了三种方法：

校准的意义：当模型给出 0.8，长期来看这类答案约有 80% 是对的。概率变成了可以用来搭建逻辑的数字。

与被「强迫」输出 JSON 的 LLM 的实际区别：

• 输出按构造就是类型化的。模型物理上无法在你的选项之外作答 - 不是 99.99%，而是 100%。没有解析，没有坏 JSON 重试。
• 每个答案都是概率分布，而不只是一个选择。你能看出选项是稳赢还是两个几乎打平。
• 各问题并行、独立评估：加十几个问题几乎不增加响应时间（亚秒级延迟），也不会产生「上下文腐烂」。
• 更便宜更快：控制台欢迎页宣称比 LLM 快 20-200 倍、便宜 40-1000 倍（公司自述，但很容易验证）。

三个原语

能省下几个小时的经验：

• Noul 没有单独的 confidence - 数值本身就是概率。0.5 的意思是「不知道」，不是「中等水平」。要衡量程度，就写一个带等级描述的 Score。
• 在 Choice 里加一个「other」/「none of the above」选项，防止列表没覆盖到。
• 问题 ID 是给你的代码用的，模型看不到。完整问题写进 instructions。
• 如果 state 是 JSON，在问题里用反引号指出确切路径：`ticket.messages[0].text`。
• 一个问题 = 一个快速判断。「分析并给出行动方案」是坏问题。「这条消息是否表达紧迫感？」是好问题。

5 分钟上手

0. 免排队：Jev 已上线 Vercel AI Gateway，模型名 typesafe-ai/jev（$0.042/百万输入 token）- 在 Vercel 上可直接通过 ai 包调用，不用等 TypeSafe 的 waitlist。OpenRouter 上也有：~typesafe/jev-latest（兼容 OpenAI API）。

1. Playground。打开 console.typesafe.ai/playground，粘贴任意文本作为 state，添加问题，点 Run。（进入时有个小测验「能和 Jev 聊天吗？」 - 正确答案是 No。）

2. 直接调 API。在控制台拿 key，只有一个端点：

curl -X POST https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "state": "Trying to connect my Stripe for 3 days, keeps failing. Help ASAP.",
    "model": "jev-latest",
    "questions": {
      "department": {
        "type": "choice",
        "instructions": "Which team should handle this",
        "criteria": {
          "billing": "Payment or subscription issues",
          "technical": "Bugs or integration problems"
        }
      },
      "is_urgent": { "type": "noul", "instructions": "The message conveys urgency" }
    }
  }'

响应里每个问题都有选中的值、所有选项的概率和 confidence。

3. Python SDK（3.10+），客户端自动读取 TYPESAFE_API_KEY 并默认调用 jev-latest：

pip install typesafe-sdk

from typesafe_sdk import Choice, Noul, Score, TypeSafeClient

client = TypeSafeClient()
response = client.system_one(
    state=ticket,
    questions={
        "department": Choice(
            instructions="Which team should handle this",
            criteria={
                "billing": "Payment or subscription issues",
                "technical": "Bugs or integration problems",
            },
        ),
        "is_urgent": Noul(instructions="The message conveys urgency"),
    },
)
print(response.answers["department"].choice)   # "billing"
print(response.answers["is_urgent"].noul)      # 0.999

JS 有 @typesafe-ai/sdk；给代理（Claude Code、Codex 等）有现成 skill：npx skills add typesafe-ai/skills --skill typesafe-ai。这个 skill 专门教代理把问题打包批量发 - 代理最喜欢一问一请求。

四个核心模式

1. Speculative fan-out（投机扇出）。共享同一 state 的所有问题放进一个请求，包括偶尔才用得上的「投机」问题。多一个问题成本忽略不计，响应时间几乎不变。TypeSafe cookbook：13 个问题一次请求比 13 次单独调用便宜约 12 倍、快约 10 倍，答案不变。
2. Confidence-gated routing（置信度路由）。答案告诉你「是什么」，confidence 告诉你「要不要行动」。三个区间：高 - 自动执行；中 - 确认或标记人工复核；低 - 上交人类或 reasoning 模型。阈值取决于风险：显示错屏幕 0.6 就行，执行支付最好 0.9+。
3. Composite scoring（复合打分）。把复杂判断拆成原子 Score，在代码里加权合成。工单优先级 = severity * 0.5 + frustration * 0.3 + actionability * 0.2。优先级变了？改系数，不用重写 prompt。
4. Intent routing（意图路由）。对进来的请求分类并路由：确定性代码、便宜模型、贵的 reasoning 模型，或者人。

价格与限制（jev-1.13.0）

• 每百万输入 token $0.042（$42/Btok），输出 token 免费。
• 限额：每秒 250k token、每分钟 1200 次请求（动态，可能变化）。
• 上下文：每请求 64k token；state + 最长问题 - 最多 32k（约 15 万字符英文文本）。
• 只支持文本：字符串、JSON 对象或数组。没有图片、音频、视频。
• 服务器在 us-west - 从欧洲访问延迟比美国高。
• jev-latest 是指向当前版本的别名。如果你针对某版本调过阈值 - 显式锁定 jev-1.13.0：下个版本发布时别名会漂移。
• 英语是主要训练语言，其他语言效果更差。中文内容请单独测试并关注 confidence。
• 没有 fine-tuning - 你的领域通过 state 和问题 criteria 来塑造。

弱点（来自官方文档的诚实清单）

jev-1.13 有一份公开的「jaggedness」（毛边）页面 - 诚实地列出模型做不到的事：

• 不是文本生成器。别用它写文章，也别用链式 Choice 榨出生成能力。
• 算术不行。加减、数数、日期间隔 - 都放代码里。模型回答语义问题，不做计算。
• 把日期当文本读。「哪个日期更早」不可靠。用 Choice 抽取组件（月份 12 个选项 +「未提及」），在代码里拼出日期再比较。
• 按字面回答 - 回答你写下的问题，而不是你想的问题。避免否定和双重间接。
• Context rot。state 里的无关垃圾会降低准确率：发送前先过滤。
• 不变量没有保证。Noul「要求退款」和 Noul「要求退款以外的东西」可能给出 0.72 和 0.47 - 加起来 1.19，这是正常的。不要在不同问题类型之间搬阈值。
• 对抗性内容可能带偏答案 - 对模型来说 state 是数据而不是威胁。上线前测试边界情况。

适用场景

RAG rerankLLM guardrailscitation checkjailbreak detectticket routingmoderationcomplianceML featurescatalog matchingresume scoringlead scoring

一个活生生的例子：基于 Jev 的比特币 BUY/SELL/HOLD 终端 - jev-terminal.vercel.app。API 返回诚实的概率，决策在不到一秒内到达。

另一个例子 - 即时生成式 UI：实验 json-render + jev - Jev 从你的组件、操作和设计系统中选择，界面毫秒级渲染。

链接

• 控制台和 Playground：console.typesafe.ai
• 文档：docs.typesafe.ai
• 宣言：typesafe.ai/manifesto