WHAT NEW IN X10.31 SAT

AI collections from X · 22 collections · 62,413 posts

jevARTICLE

Local Qwen/Gemma logits classifiers compared with Jev

A Thai-language post where the author runs local Qwen and Gemma as classifiers that read logits directly, compares them with Jev on Thai and English tasks, and shares test results plus ideas for routing and automation.

sorajate
@sorajateArchived 2026.09.20Originally posted 2026.09.19

What this article says

作者延续此前对 Jev 的测试,这次换成本地部署的 Qwen 和 Gemma 做分类器:不等待模型生成文字答案,而是直接读取输出的 logits 来判断类别,从而绕开生成开销、提升速度。实验在泰语和英语两类任务上同时进行,并与 Jev 的结果做对照,文章给出了具体的测试结果数据。作者的核心主张是:对于分类、路由这类只需要一个判定而非一段文字的场景,读 logits 的本地小模型可能是比调用 Jev 更可控、更便宜的选择;同时他也提出了把这类分类器用于请求路由和自动化流程的落地思路。结论偏向实用对比而非否定某一方,适合正在选型分类/路由方案的开发者参考。

ต่อจาก Jev รอบนี้ลองเอา Qwen และ Gemma มาทำ classifier รันในเครื่อง อ่าน logits แทนการรอให้โมเดลเขียนคำตอบ แล้วเทียบกับ Jev บนโจทย์ไทยและอังกฤษ พร้อมผลทดสอบและไอเดียเอาไปใช้กับ routing / automation ครับ https://x.com/i/article/2101261114294280192

sorajate @sorajateOriginally posted 2026.09.19
Open original on X
x.com/sorajate/status/2101267773058089403Archived 2026.09.20 10:16