deepseek-v4.1POST

Strata 0.2.6 and Project Maya v1.1.28 speed up local DeepSeek V4.1 Flash decoding

Two open-source local runners updated within hours: Strata decodes about 10-20% faster when the model fits in RAM, while Maya reports up to 2x on an RTX 3090 and 14% on a V100, Linux single-GPU only.

墨无归

@MoblacksoilArchived 4 days agoOriginally posted 2026.10.26

墨无归 @MoblacksoilOriginally posted 2026.10.26

Open original on X

Strata 和 Project Maya 是两个开源程序，能用自己电脑的显卡加大内存本地跑 DeepSeek V4.1-Flash。两家前后不到两个半小时各发了新版，内存够大的电脑解码都更快了。 Strata 0.2.6 在内存能装下模型放在 CPU 这边的全部数据、还剩 8GB 时，加载时一次拷进内存，官方单卡测试机解码快了约一到两成多，代价是加载变慢；内存装不下的电脑速度不变。Maya v1.1.28 同样要内存装得下，社区报告在 RTX 3090 上解码最高快约 2 倍，作者在 V100 上测到快 14%，只在 Linux 加单张 NVIDIA 显卡上生效。 https://github.com/Niko1221/Strata/releases/tag/v0.2.6 https://github.com/mw00/project-maya/releases/tag/v1.1.28

x.com/moblacksoil/status/2114448410371915839Archived 2026.10.26 12:05