WHAT NEW IN X11.02 MON

X 上的 AI 合集档案 · 22 个合集 · 64,204 条

deepseek-v4.1IMAGE

Project Maya:单张 4090 48G 本地跑 DeepSeek V4.1 Flash

MIT 开源项目用专家分层卸载让 748B 模型在家用电脑运行,4090 48G 聊天 26.4 tok/s、写代码 65 tok/s,1-bit 量化与原版选词一致率 87.5%。

雨哥向前冲
@xiangxiang1039 天前收录原推发布于 2026.10.23
Project Maya:单张 4090 48G 本地跑 DeepSeek V4.1 Flash(第 1 张,共 3 张)
Project Maya:单张 4090 48G 本地跑 DeepSeek V4.1 Flash(第 2 张,共 3 张)
Project Maya:单张 4090 48G 本地跑 DeepSeek V4.1 Flash(第 3 张,共 3 张)
雨哥向前冲 @xiangxiang103原推发布于 2026.10.23
在 X 上打开原推

🥹 有人开源了:家用电脑跑 748B 的 DeepSeek! Project Maya,MIT 协议,免费。10-07 才建的库,已经 1500 多星,DeepSeek 量化文件下载 3 万次。 它让 DeepSeek V4.1 Flash 1017 这种平时得进机房的模型,在你家电脑上跑起来。 原理很白:常用的专家放显卡,次常用放内存,冷门的丢固态,聊天时自动搬 单张 4090 48G,日常聊天每秒 26.4 个 token,写代码 65。同一台机器换 Unsloth 1-bit,只有 2 个左右 自带网页聊天,兼容 OpenAI 和 Anthropic 接口,Claude Code 改个地址就能接本地 DeepSeek 本地跑,不按 token 付钱。 丑话说前头:这是 1-bit 量化,跟原版选同一个词的比例 87.5% Mac 不支持,显存加内存不到 115G 的也别硬上。 有N 卡的朋友,想本地跑 DeepSeek 的,先收藏。 据说 @servasyy_ai 黄总用单台 4090/48G 跑到了70+ tok/s ,只能说太牛逼了! 传送门👇 Project Maya https://github.com/mw00/project-maya DeepSeek 量化文件https://huggingface.co/peasantsmith/DeepSeek-V4.1-Flash-1017-Maya-GGUF

x.com/xiangxiang103/status/2113467955224944732采集于 2026.10.23 12:05