DeepSeek V4.1 Flash runs on a single V100 32GB

けーず @llm_frontier_jpOriginally posted 2026.10.22

Open original on X

けーず実測 V100 32GBで大容量MoEモデルを実行（Maya Project） deepseek v4.1 flashは初めて投稿なのでn=2、glm 5.3 flashは以前の結果の引用です。（v100 x1とx2） 実用に耐えないかもしれないけどDSV4.1Fが手元の35万PCで動きました。 今までのDSV4.1Fの実行環境は256GBメモリのMacやdgx spark x2だったから、これはほんとに凄いこと。 v100 x2のglm5.3flashぐらいの速度が出れば一気に実用が見えてきます。