kev replicates a Jev-style decision model locally on a Qwen base

Geek Lite @QingQ77Originally posted 2026.09.20

Open original on X

想在本地跑一个 Jev 那样的决策模型，一次前向传播里把一份文档问上好几遍、拿到概率而不是让模型写字，kev 拿 Qwen 底座加 LoRA 和读出头上做了出来，能在 Mac 上服务、也能在 H100 上重训。 https://github.com/jaredpalmer/kev Jared Palmer 写的 kev 在 Qwen 底座（0.5B 到 8B）上挂 LoRA 加一个指针读出头，架构是 Archer Hume 那篇 Jev 逆向分析的复刻，接口照抄 TypeSafe System One，官方 typesafe-sdk 改个 base_url 就能连本地服务。