jevPOST
7B 本地模型提示词决策 vs Jev 实测对比
有人把「只让 LLM 返回 1/0 或置信度」的省 Token 分流方案,和 Jev 在几个用例上比速度与效果。
Tinyfool
@tinyfool2026.09.22收录原推发布于 2026.09.21
Tinyfool @tinyfool原推发布于 2026.09.21
RT @zhufengme: 测了下 Jev。其实之前我们就在尝试用大模型做决策和分流:给模型上下文,只要求返回 1、0 或一个置信度数字,目的就是尽量省 Token。昨天又拿 7B 模型在本地跑了下,用提示词约束 LLM 只返回决策结果,再和 Jev 对比。几个用例下来,速度…
x.com/tinyfool/status/2101860914152824874采集于 2026.09.22 10:31