WHAT NEW IN X10.30 FRI

X 上的 AI 合集档案 · 22 个合集 · 61,719 条

deepseek-v4.1POST

Strata 0.2.6 与 Project Maya v1.1.28:本地跑 DeepSeek V4.1 Flash

两个开源本地推理程序同日更新:内存装得下模型时 Strata 解码快约 10–20%,Maya 在 RTX 3090 上最高快约 2 倍、V100 上快 14%,仅限 Linux 单卡。

墨无归
@Moblacksoil3 天前收录原推发布于 2026.10.26
墨无归 @Moblacksoil原推发布于 2026.10.26
在 X 上打开原推

Strata 和 Project Maya 是两个开源程序,能用自己电脑的显卡加大内存本地跑 DeepSeek V4.1-Flash。两家前后不到两个半小时各发了新版,内存够大的电脑解码都更快了。 Strata 0.2.6 在内存能装下模型放在 CPU 这边的全部数据、还剩 8GB 时,加载时一次拷进内存,官方单卡测试机解码快了约一到两成多,代价是加载变慢;内存装不下的电脑速度不变。Maya v1.1.28 同样要内存装得下,社区报告在 RTX 3090 上解码最高快约 2 倍,作者在 V100 上测到快 14%,只在 Linux 加单张 NVIDIA 显卡上生效。 https://github.com/Niko1221/Strata/releases/tag/v0.2.6 https://github.com/mw00/project-maya/releases/tag/v1.1.28

x.com/moblacksoil/status/2114448410371915839采集于 2026.10.26 12:05