双 RTX PRO 6000 跑 V4.1-Flash EXL3 3bpw：224 tok/s，另需 260GiB 内存

まぷて @mapte_fireball原推发布于 2026.10.25

在 X 上打开原推

DeepSeek-V4.1-Flash-1017がローカルで224 tok/s EXL3 3bpw版をRTX PRO 6000 Blackwell×2（VRAM計192GB）で動かした実測が公開。 ただし、別途RAM約260GiBが必要。もはや個人PCというよりサーバー級の構成。それでもこの速度は驚異的。詳細は返信に。