中文实测：用 Jev 替换判断环节省 20–60 倍成本

Dalin Huang @DalinHuang原推发布于 2026.09.21

在 X 上打开原推

先说结论：Jev 非常有用。 它保证格式是对的。选没选对，要自己 eval。 我们实测，用它替换链路里的 Gemini Flash / GPT Luna 这类判断，成本大概能降 20–60 倍，端到端也快一个数量级。 别想着用它超越 Flash 或 Luna 的生成能力。看置信度，低于 80% 再丢给它们。大头走 Jev，吃不准的再走小生成模型，成本还能再削一截。前提是 online / offline eval 做好。 比如：Model Router、进模型前的预处理、出模型后的检查、自定义打标。 Jev 不聊天，也不会写字。你把一段状态丢给它，再问几个事先定好的问题，它一次答完，每个答案带着概率。 和 BERT 的差别就一句：BERT 要标注再训练，标签一改就重来。固定标签可以继续微调小模型；标签老变的，改 Jev 那句规则当天就能用。 它适合的都是「在几个选项里选一个」：这条该便宜模型还是贵模型，工单算哪类，内容打哪些标签，进大模型前要不要拦、要不要检索，出来之后能不能发、有没有答上问题。 这些现在很多团队会丢给小模型，甚至为了省钱去微调。还是慢，格式一炸就只能重试。改写、压缩、生成回复，留给会写字的 LLM。