deepseek-v4.1IMAGE
4 张 RTX PRO 6000 本地跑 DeepSeek V4.1 Flash：463 tok/s，修好 93/95
半 TB 的 DeepSeek V4.1-Flash-1017 在 4 卡 RTX PRO 6000 Max-Q 上聚合 463 tok/s、单流 102 tok/s，真实 bug 修复 93/95；同帖对比 Nemotron-3.5-Super-VL 在 2 卡上 1535 tok/s。
Dataphile
@Dataphil311 天前收录原推发布于 2026.10.18
Dataphile @Dataphil3原推发布于 2026.10.18
Half a terabyte of DeepSeek. One box. @deepseek_ai V4.1-Flash-1017 on 4x RTX PRO 6000 Max-Q: 463 tok/s aggregate 102 tok/s per stream 93/95 real bugs fixed In the other corner: @nvidia Nemotron-3.5-Super-VL on 2 cards, 1,535 tok/s. https://puretensor.ai/blog/what-fits-on-two-gpus #DeepSeek #LocalLLM
x.com/dataphil3/status/2111552030976118942采集于 2026.10.18 16:33