deepseek-v4.1POST
双 3090 无 NVLink 跑 V4.1 Flash EXL3 量化，prefill 783 t/s
用户用 EXL3 2.95bpw 量化在两张无 NVLink 的 3090 上本地跑 DeepSeek V4.1 Flash 1017，prefill 已达 783 t/s，计划整理后开源。
Cato Nooka
@catonooka10 天前收录原推发布于 2026.10.21
Cato Nooka @catonooka原推发布于 2026.10.21
DeepSeek V4.1 flash 1017 EXL3 2.95bpw - duo 3090 no NVLink Update 4: prefill is now at 783 t/s I am pretty happy with current number, should share the work after real coding work, and hopefully a good PR to Maya repo.
这条是引用着另一条写的：x.com/catonooka/status/2112828744226296257
x.com/catonooka/status/2112931301095616724采集于 2026.10.22 12:00