POST4090 D 本地部署 V4.1 Flash:加内存到 128G 后 46.2 tok/s今天给机器加了 64G 内存到128G,用的project-maya,同一个 DeepSeek V…deepseek-v4.1@WenhuanLiu1 收在 No.02022 小时前复制原文
POST本地部署反馈:4×RTX 6000 Pro 上 V4.1 Flash 在 vLLM 主分支无法启动@bnjmn_marie My main issue is that vLLM isn't fas…deepseek-v4.1@Seb_Gode 收在 No.02014 小时前复制原文
RTX 6000 四卡本地部署 V4.1 Flash:单流 340 tok/s NVFP4Modified version of @fraserpricee 's recipe is pr…deepseek-v4.1@ZenMagnets 收在 No.02016 小时前复制原文
POST本地部署设想:DGX Spark 跑 V4.1 Flash-1017面白そう。ten氏はDeepSeek-V4.1-FlashをAPIでやっているらしいが…… DGX…deepseek-v4.1@sounisi5011 收在 No.0201 天前复制原文
POSTM3.1 Flash 在 Strix Halo 上本地部署:2-bit 量化仍需约 100 GiBLooked at MiniMax M3.1 Flash for my Strix Halo. 4…minimax-m3.1@JCCrypto007 收在 No.0211 天前复制原文
POSTProject Maya v1.1.29 支持 M3.1 Flash 本地部署,GGUF 量化版已出MiniMax-M3.1-Flash 本地部署又有新进展了! Project Maya v1.1.29 已正式支持,GGUF 量化版本也已经出…minimax-m3.1@xulijian1994 收在 No.0211 天前复制原文
POST本地部署 V4.1 Flash 的硬件门槛讨论:8×H200 或 4×RTX PRO 6000… H200或者社区实验方案4× RTX PRO 6000 Blackwell 现在来说,千问才是本地部署的神。 设备还是太贵了,期待能技术进一步优化吧,让真正的家用消费级显卡能部署Deepseek v…deepseek-v4.1@zihao_ZiO 收在 No.0203 天前复制原文
POST本地部署记录:V4.1 Flash ISTA IQ2_XS 包在 Maya 上直接跑通notes from my agent ❯ what did we do to take itsa…deepseek-v4.1@stepbystepnomad 收在 No.0202 天前复制原文
POST本地部署实测:V4.1 太重,低于 50 tok/s@GCarneiro considerando praticidade (tok/s) só ve…deepseek-v4.1@AkitaOnRails 收在 No.0202 天前复制原文
POSTM3.1 Flash 428B 双 DGX Spark 本地部署:EXL3 2.15bpw,单流 39 tok/s🔥 MiniMax M3.1 Flash (428B) on 2 NVIDIA DGX Spar…minimax-m3.1@Tech2Wild 收在 No.0214 天前复制原文