本地 Qwen/Gemma 读 logits 与 Jev 做分类对比

这篇在说什么

作者延续此前对 Jev 的测试，这次换成本地部署的 Qwen 和 Gemma 做分类器：不等待模型生成文字答案，而是直接读取输出的 logits 来判断类别，从而绕开生成开销、提升速度。实验在泰语和英语两类任务上同时进行，并与 Jev 的结果做对照，文章给出了具体的测试结果数据。作者的核心主张是：对于分类、路由这类只需要一个判定而非一段文字的场景，读 logits 的本地小模型可能是比调用 Jev 更可控、更便宜的选择；同时他也提出了把这类分类器用于请求路由和自动化流程的落地思路。结论偏向实用对比而非否定某一方，适合正在选型分类/路由方案的开发者参考。