What is Jev: a fast judge for AI agents
An explainer post: Jev isolates the judgment capability of large models for intent classification and action approval, at about $0.042 per million input tokens with latency of tens to hundreds of milliseconds.
大家最近是不是都被Jev刷屏了 很多人第一次看到它可能会想： “又一个大模型？”“又一个AI新概念” 但 Jev 有点不一样。 ChatGPT、Claude 这类模型，更擅长理解问题、推理、生成文字。 而 Jev 更像是一个给 AI Agent 用的“快速判断器”。他把AI大模型中的判断能力剥出来，去做更有意义的事情 比如： 用户发来一条消息 ↓ Jev 判断用户意图 ↓ 退款 / 技术问题 / 投诉 ↓ 自动交给对应的 Agent 或工具处理 或者让 AI 在执行一个操作之前，先让 Jev 判断： “这个操作该不该执行？” 为什么最近大家突然在讨论它？ 核心就是两个字： 快、便宜。 TypeSafe 给出的价格是 每 100 万输入 token 约 $0.042，而且它不产生传统意义上的输出 token；官方/媒体报道的响应延迟大约在几十到几百毫秒级。 所以我觉得 Jev 有意思的地方，不是它要取代 ChatGPT。 而是未来的 AI Agent 可能根本不只需要一个模型。 大模型负责理解、推理、生成； Jev 负责快速判断； 其他模型负责视觉、语音、代码…… 不同模型各司其职，最后组合成一个真正能“干活”的 AI Agent。 以前我们讨论 AI，更多是在讨论： “谁家的大模型更聪明？” 现在可能正在慢慢变成： “怎么把不同能力的模型组合起来，让 AI 真正去完成任务？” 这也是我最近觉得很值得关注的一个方向。 就像Jev的积木图标一样，AI 的下一阶段，也许不只是更大的模型，而是更好“模型组合”。🤖 具体效果怎么样，我暂时不下定论，可以等我用它做点事情就能告诉大家了