deepseek-v4.1IMAGE
迷你主机加 RTX 5060 Ti 16GB 本地跑 V4.1 Flash:7.6 tok/s,五重塔 77 分钟
2.25bpw 量化的 DeepSeek V4.1 Flash 在 OCuLink 外接 5060 Ti 上跑出 7.6 tok/s,五重塔任务 77 分钟,质量与对照模型持平但慢约 4 倍。
yutacar@niigata
@yutacar1 天前收录原推发布于 2026.10.26

yutacar@niigata @yutacar原推发布于 2026.10.26
ミニPC+OCuLink RTX 5060 Ti 16GBで、ローカルLLM 2モデルを比較しました UD-IQ4_XS:30tok/s、五重塔70分 DeepSeek V4.1 Flash 2.25bpw:7.6tok/s、五重塔77分 品質は互角、速さはUDが約4倍。DeepSeekも0.2.5+SSD追加で完走できるように #ローカルLLM #Strata
x.com/yutacar/status/2114676570539667523采集于 2026.10.27 12:10