deepseek-v4.1IMAGE
550B MoE 模型在双 3090 台式机上跑出 20 tok/s
用户用 2020 年的双 3090、128GB 内存加 NVMe 的台式机,通过 Project Maya 跑 DeepSeek V4.1 Flash 的 550B MoE 版本,解码 20 tok/s、预填充 1000 tok/s。
Axitek
@axitek5 天前收录原推发布于 2026.10.25

Axitek @axitek原推发布于 2026.10.25
We have frontier-level intelligence at home now and I'm not even kidding. DeepSeek-v4.1-Flash-1017:Maya-S, a 550B MOE model, running on a <$5k desktop PC from 2020. 🚀 Decode: 20tps 🔥 Prefill: 1,000tps Thank you Project Maya! https://github.com/mw00/project-maya HW 2x3090+128gb+nvme
x.com/axitek/status/2114153750382428288采集于 2026.10.25 11:59