deepseek-v4.1IMAGE

763B DeepSeek V4.1 Flash runs at 30 tok/s on a home 4090D 48GB rig

A home setup with a 4090D 48GB and DDR4 runs the 763B-parameter DeepSeek V4.1 1017 build at about 30 tok/s decode, buffering the full 1M context for roughly 2k tok/s prefill.

sorek

@sorek_UKArchived 2 days agoOriginally posted 2026.10.27

763B DeepSeek V4.1 Flash runs at 30 tok/s on a home 4090D 48GB rig

sorek @sorek_UKOriginally posted 2026.10.27

Open original on X

Project maya 30t/s i 2k t/s prefil! Deepseek v4.1 1017 na 4090D 48GB + DDR4 Engramy powodowały 250t/s prefila (na strata jeszcze gorzej) więc teraz buforujemy cały context (1mln) w 1s czytając sekwencyjnie (nie rnd). Tak - 763b parametrów model na domowym komputerze!

x.com/sorek_uk/status/2114857728401137737Archived 2026.10.27 12:08