deepseek-v4.1IMAGE
双 DGX Spark 跑 EXL3 量化 V4.1 Flash:稳定约 50 tok/s
本地部署实测:EXL3 量化版在两台 DGX Spark 上稳定约 50 tok/s,prompt cache 生效,日常可用。
Taro L. Saito
@taroleo10 天前收录原推发布于 2026.10.18

Taro L. Saito @taroleo原推发布于 2026.10.18
DeepSeek V4.1 Flash 1017 EXL3、2 x DGX Sparkでも安定して50 tok/sくらいは出て、prompt cacheも効いてるのでそこそこ使える
x.com/taroleo/status/2111704915760517351采集于 2026.10.18 16:31