V4.1 Flash-1017 local deployment: 763B params, ~510GB weights, no single GPU
The author works through deployment costs: 763B parameters and roughly 510GB of weights mean a 4060, 4090 or even 5090 cannot hold the full model, enterprise multi-GPU setups may cost millions, and individuals are better off with the API.
DeepSeek 又开源了新模型，但我研究完本地部署成本，真的有点被吓到了😱。 这次的 DeepSeek-V4.1-Flash-1017，参数量高达 763B，公开权重文件就有约 510GB。我原本还想着能不能在自己电脑上部署一套，结果发现，别说我的 RTX 4060，就是一张 4090、5090，也远远撑不起完整版本。 如果想完整部署，还要保证推理速度和多人并发，基本就得考虑专业多卡服务器了。企业级高性能方案，硬件投入可能达到几百万元。虽然可以通过量化大幅压缩成本，但效果、速度和精度都可能需要妥协。 这让我意识到一个很现实的问题：大模型开源，不等于大模型免费使用。 模型权重可以免费给你，但显卡、显存、服务器、电费、散热、运维，哪一个不要钱？ 所以对绝大多数个人开发者来说，与其花几十万甚至几百万去部署一个大模型，不如直接调用 API。真正有数据安全、离线运行、私有化需求的企业，再根据实际情况考虑本地部署。 开源解决的是模型获取的问题，但真正决定你能不能用得起的，还是算力成本。 AI 模型越来越强，也越来越开放，但算力这道门槛，依然很现实。
This post quotes another post: “DeepSeek V4.1 Flash 1017 open-sourced with gains across reasoning, coding, agents and vision”