WHAT NEW IN X10.28 WED

X 上的 AI 合集档案 · 22 个合集 · 58,924 条

今天新增deepseek-v4.1IMAGE

Strata 0.2.7:优化 MoE 磁盘 IO,12GB 显存跑本地 V4.1 Flash

重构专家权重读取逻辑并加自适应注意力缓冲,称 RTX 5070 12G 上 4K Prompt 提速 47%、8K 提速 33%,Strix Halo 32K 读取峰值 342 tok/s。

xiax|AI & Agents
@xiax06037 小时前收录原推发布于 2026.10.28
Strata 0.2.7:优化 MoE 磁盘 IO,12GB 显存跑本地 V4.1 Flash(第 1 张,共 2 张)
Strata 0.2.7:优化 MoE 磁盘 IO,12GB 显存跑本地 V4.1 Flash(第 2 张,共 2 张)
xiax|AI & Agents @xiax0603原推发布于 2026.10.28
在 X 上打开原推

🔥史诗级优化!Strata 0.2.7更新,盘活本地DeepSeek-V4.1-Flash推理! 新版本直击MoE模型IO短板,重构底层读取逻辑,不再反复从SSD加载专家权重,搭配自适应注意力缓冲、内存调度优化,大幅缓解长Prompt加载卡顿,消费级设备体验显著提升。 ✅ RTX 5070 12G|4K Prompt提速47%、8K Prompt提速33% ✅ Ryzen AI Max Strix Halo|Windows原生适配,32K词表Prompt读取峰值可达342 tok/s ✅ 四卡Radeon AI PRO R9700|默认5专家模式,暖启动Prompt提速超40%,输出质量基本不变 ✅ 视觉能力默认开启,支持手动切换512K/1M超大上下文,默认基线为8K 本地部署MoE模型,瓶颈往往不是算力,而是反复磁盘读取带来的延迟。 Strata 0.2.7瞄准这个痛点优化,12GB显存搭配大内存的普通设备,也可以稳定运行这款高性能开源模型,降低本地高端AI的部署门槛。 GitHub仓库地址:https://github.com/Niko1221/Strata/releases/tag/v0.2.7

这条是引用着另一条写的:x.com/xiax0603/status/2115130408530796840

x.com/xiax0603/status/2115134695835140391采集于 2026.10.28 12:04