deepseek-v4.1POST
讨论用 Strata 引擎把 V4.1 量化版跑在 256GB 内存上
评论指出可借助 Strata 这类引擎把为 256GB 内存设计的 DeepSeek V4.1 量化版部分卸载到内存中运行,加载后仍需留出系统内存。
Canadian Republic 🇨🇦
@CanaRepublic2 天前收录原推发布于 2026.10.26
Canadian Republic 🇨🇦 @CanaRepublic原推发布于 2026.10.26
@_jarva_ @shotgunner101 That allows you to run a deepseek v4.1 quant meant to fit on 256GB of memory (need a bit after loading for system memory still) using a engine like Strata where you can offload portions to memory.
x.com/canarepublic/status/2114738044146421990采集于 2026.10.27 12:09