让万次不到半美元的 Jev 替 Agent 做小判断

你会得到什么

翻一遍你的 AI Agent 的运行记录，会发现它大半时间不在写东西，而是在做小判断：下一步用哪个工具，这条资料有没有用，任务做完了没有。每个小判断都按最贵的大模型计费。这篇教你把这类判断交给一个只做选择题的模型 Jev，它拿不准的再交给大模型。文中有 3 段可以直接复制给 Agent 的提示词。

大模型照用，只是少替它干杂活。 写文字、写代码还是大模型的活；能从几个选项里挑一个的判断，交给便宜又快的 Jev。

Jev 是什么

Jev 是 TypeSafe AI 推出的模型，按官方说法，它不会写文字，只会回答你提前列好选项的问题，并且每个答案都附带概率。比如问"这封邮件是诈骗吗"，它不会写一段分析，只回一个"是"的概率，比如 0.97。

这个概率有用，是因为 Jev 训练时追求"说 90% 把握的答案，大约 90% 是对的"。你的程序可以据此决定：把握高的直接执行，把握低的交给别人再看。

它目前支持几种题型：

题型	问什么	返回什么
Choice	从你列的选项里挑一个	挑中的选项，每个选项的概率
Score	按你写的几档标准打分	分数（可以落在两档之间），各档概率
Noul	是或否	"是"的概率
Box	图片里某样东西在哪	一个框的位置（新版本才有）

按官方模型页，现行的 jev-1.14 和 jev-1.13 价格都是每百万输入 token 0.042 美元，单次请求上限约 64K token。官网称在它自己的测试流程里，比通用大模型快约 194 倍、便宜约 445 倍，这是厂商自测的数字，你的实际效果要自己量。

第 1 步：让 Agent 把流程分成四类

先别急着接 API。找一段你的 Agent 真实跑过的记录，交给 Claude Code 或 Codex：

读这份 Agent 运行记录：[文件路径]
把里面每一步分到下面四类之一，做成表格（步骤、归类、理由、这一步一天大约出现几次）：
1. 要写出文字、代码或方案的：留给大模型
2. 有确定规则的（计数、日期计算、重试次数、白名单）：改成代码
3. 能从提前列好的几个选项里挑一个的（分类、留不留、安不安全、做完没有）：候选交给 Jev
4. 做了收不回的（发送、付款、发布、删除、改权限）：必须留给人确认
最后把第 3 类按出现次数从多到少排，列出前 5 个。只分析，不要改代码。

第 3 类通常比你想的多，它就是这次要动的部分。第 2 类顺手改成代码，连 Jev 的钱都省了。

第 2 步：只挑一个判断开始

从第 3 类里挑一个每天出现几十次、出错也不要紧的判断，比如"这封邮件该归哪个部门"。别一上来就挑"要不要退款"这种出错会赔钱的。

第 3 步：把判断写成一道好题

Jev 答得好不好，主要看题出得好不好。让 Agent 按下面的规矩写题，并接上 API：

这段关键内容需要登录后解锁

新用户注册就送 10 积分，每天签到再领 1 积分。用 1 积分解锁，以后随时回来都能看。

第 1 到 5 条来自 Jev 文档里的出题建议。整套做法最要紧的是第 8 条，Jev 不确定的，不让它硬答。

第 4 步：按把握分流

接好之后，每个判断都会依次经过下面四层，在第一个有把握的地方停下：

门槛按动作定，不按模型定。归档一封简报，0.7 的把握就可以自动做；标记诈骗，可能要 0.95 以上。删除、付款这类收不回的事，不管多有把握都留给你。

第 5 步：先影子运行一周

不要第二天就切换。先让 Jev 只"旁听"一周：它照常给出答案和概率，但决定还是按原来的方式做。一周后让 Agent 对比：

读这一周的日志，按 Jev 的把握分成几段（0.9 以上、0.7 到 0.9、0.7 以下），
统计每一段里 Jev 的答案和原来决定一致的比例，并估算如果改由 Jev 先判断，这一周能省多少钱。
不要改任何配置，只给我报告。

哪一段一致率接近百分之百，哪一段就先切过去。

算一笔账

按官方价格，1 万次判断、每次 1000 个输入 token，Jev 的费用约 0.42 美元。再假设其中 10% 拿不准、交给大模型，总花费主要就是这 10% 的大模型调用。省多少，取决于你原来每次判断用的是什么模型。第 5 步的影子周会给你真实的数字。

注意

它还很新：TypeSafe 今年 9 月才公开，产品和价格变化快，以官方文档为准。
速度和价格倍数是厂商自测：别直接拿来做预算，用你自己的影子周数据。
答案在范围内，也可能是错的：Jev 不会给出选项以外的答案，但可能挑错选项。门槛和大模型兜底就是为这个准备的。
数据会发给第三方：用户邮件、订单这类敏感信息，先确认你的数据可以交给它处理。