deepseek-v4.1IMAGE
4090D 48GB 家用机跑 763B 的 V4.1 Flash：30 tok/s
作者在 4090D 48GB + DDR4 的家用机上跑 DeepSeek V4.1 1017（763B 参数），解码约 30 tok/s，并把百万上下文整段缓冲后顺序读取，预填约 2k tok/s。
sorek
@sorek_UK1 天前收录原推发布于 2026.10.27
sorek @sorek_UK原推发布于 2026.10.27
Project maya 30t/s i 2k t/s prefil! Deepseek v4.1 1017 na 4090D 48GB + DDR4 Engramy powodowały 250t/s prefila (na strata jeszcze gorzej) więc teraz buforujemy cały context (1mln) w 1s czytając sekwencyjnie (nie rnd). Tak - 763b parametrów model na domowym komputerze!
x.com/sorek_uk/status/2114857728401137737采集于 2026.10.27 12:08