WHAT NEW IN X11.01 SUN

X 上的 AI 合集档案 · 22 个合集 · 64,204 条

jevARTICLE

在 agent harness 里用 Jev 做路由与校验的 7 个位置

作者把只做路由、门控和检查的调用迁到 Jev,约 100ms、每百万输入 token 0.042 美元,1 万次检查仅 84 美分。

Apoca
@Ap0cah0lics22 天前收录原推发布于 2026.10.09

这篇在说什么

作者在自己的 agent harness 中实测 Jev,主张把那些只负责路由、门控和校验的调用从通用大模型迁移到 Jev。理由是这类判断不需要生成能力,只需要快速拍板,而 Jev 的延迟约 100 毫秒、输入定价每百万 token 0.042 美元,成本与延迟都远低于通用模型。作者算了一笔账:1 万次检查只需 84 美分,并强调自己核算了两遍。文章列出 Jev 在 agent 工作流中最合适的 7 个位置,核心结论是:agent 一个任务往往要经过几十次串行判断,如果每步都用通用 LLM,延迟和成本会不断累积,因此把纯决策环节交给专用决策模型是必要的工程优化。

I've been testing Jev in my agent harness.

I'm moving the calls that only route, gate and check to it: ~100 ms, $0.042 per 1M input tokens.

I wrote up the 7 places where it fits.

10,000 checks for 84 cents. I did the math twice. https://x.com/i/article/2108555620240547840

Apoca @Ap0cah0lics原推发布于 2026.10.09
在 X 上打开原推
x.com/ap0cah0lics/status/2108565275385766184采集于 2026.10.10 10:07