deepseek-v4.1IMAGE
DeepSeek V4.1 Flash on two DGX Sparks: 75 tok/s single-stream, ~210 GB weights
Dual DGX Spark test compares V4.1 Flash with GLM-5.3-Flash: 75 tok/s single-stream and 130 tok/s at 4-way, but ~210 GB weights plus ~94.4 GiB Engram tables per node leave less headroom than the author's 164 GB EXL3 setup.
Wei
@wei_wangArchived 11 days agoOriginally posted 2026.10.20
Wei @wei_wangOriginally posted 2026.10.20
GLM-5.3-Flash 在我两台 DGX Spark 上还是主力。 DeepSeek V4.1 Flash 同机配方单路 75、4 路 130，比我的 62.2 / 104.6 快。 权重却大约 210 GB，Engram 表还要在每台 NVMe 上各放约 94.4 GiB。我这边 EXL3 是 164 GB，256 GB 里余量大很多。 这套配方刚出来不久，引擎还在适配。手有点痒，可能准备试试看。
x.com/wei_wang/status/2112349082563825910Archived 2026.10.20 12:03