DeepSeek V4.1 Flash IQ2_XXS on a single RTX 5090 builds a Minecraft-style 3D game in 2 hours
On an i7-14700 + RTX 5090 with 128GB RAM, the IQ2_XXS quant at 128K context and reasoning effort off ran at ~14 tok/s and finished a Minecraft-style 3D sandbox game prompt in 2h01m; quality is modest but a 763B model running on one GPU is the point.
DeepSeek-V4.1-Flash-1017-GSQ-RCO-GGUF IQ2_XXS on Strata お試し i7-14700/5090/DDR5 128GB/Windows11/dsh/128K ctx 推論エフォート Off 「マイクラ風3D箱庭ゲーム作って」 2h 01m 07s で完走 常時 14 tok/s 前後 動いた！！🚀🚀 今回のマイクラに関しては、Q2, エフォート Off なので流石にクオリティはちょっとねｗ ただ、みんな思い出して欲しい 最近の Strata マジックで感覚が麻痺しているかもしれないが 763B のモデルだからな😂 それが 5090 単騎で普通に動かせていることがすごい🙌 他ユーザーの報告によると、V100 や 4060ti などでも動き始めてるね DS 1017 に関しては、先行していた Maya 関連の報告が蓄積されているので 今後は一つ、比較対象になっていくかもしれないな👀 この試行の前に推論 High でも試したけど 最初の think が長すぎるし Compaction も結構発生していてちょっと待てなかったので切っちゃった クオリティが少しでも改善されるかどうか、今から再挑戦してみる
This post quotes another post: x.com/jun1228909/status/2113871593130869074