WHAT NEW IN X10.31 SAT

X 上的 AI 合集档案 · 22 个合集 · 63,170 条

deepseek-v4.1POST

4×DGX Spark 跑 V4.1 Flash:单请求 97.7 tok/s,16 并发反降 38%

Mia/SGLang 原生与 TensorFold EXL3 3.5bpw 双 RoCE 对比:单请求 79.2→97.7 tok/s,16 并发 434.7→267.6,128K 首 token 26.9→55.3 秒。

Devye
@XDevye12 天前收录原推发布于 2026.10.19
Devye @XDevye原推发布于 2026.10.19
在 X 上打开原推

4×DGX Spark 实测 DeepSeek V4.1 Flash 1017: Mia/SGLang 原生 → TensorFold EXL3 3.5bpw 双 RoCE 端到端吞吐(三轮均值): 单请求 79.2→97.7 tok/s(+23%) 16并发 434.7→267.6(-38%) 128K首token:26.9→55.3秒。

x.com/xdevye/status/2112009853363490927采集于 2026.10.19 12:04