Stanford and Nvidia's CLM beats Jev by 4-13x on decision speed
CLM replaces token-by-token generation with vector similarity, running 4-13x faster than Jev on Dino Run, Super Mario and WikiRacing, but it can only pick from given candidate actions and cannot invent new ones.
💥炸了！斯坦福×英伟达开源 CLM 把 Jev 按在地上摩擦：决策最快快 13 倍，还不写字，只比向量！ Agent 每一步都要从候选动作里挑一个，大模型逐 token 写答案太慢。CLM 换思路：把当前局面和每个候选动作分别编码成向量，谁更近选谁；动作向量还能提前算好缓存，候选越多，优势越大。 跟点对比 3 个实例： 🔹恐龙跑酷：CLM 一次决策 16ms vs Jev 150ms，快约 9 倍，零样本照样过关 🔹Super Mario：CLM 约 4 倍更快（33.5ms vs 132.6ms），两边都能通关 🔹WikiRacing：从「板块构造」点到「生物发光」，CLM 79.8ms vs Jev 225ms；微调当「裁判」后，DeepSWE 挑中方案通过率 81.6%（Jev 71.1%），还快 5.7 倍 代价也很清楚：它只能在给定候选里挑，不会自己发明新动作。 开源、单卡能跑，System One 这条路被彻底打开了。 #CLM #对比学习 #AI智能体 #SystemOne #大模型推理加速 #斯坦福 #英伟达 #向量检索 #Jev #AI论文解读 https://x.com/nft_chen/status/2103700629420200446?s=46
This post quotes another post: x.com/nft_chen/status/2103700629420200446