deepseek-v4.1IMAGE
DeepSeek V4.1 Flash OQ4+MTP on M3 Ultra handles 1M context
With oMLX 0.7.2, OQ4 quantization plus MTP let an M3 Ultra run a 1M-token context on DeepSeek V4.1 Flash, which the author calls practical for local work.
ハシモト
@namakosan3Archived 9 days agoOriginally posted 2026.10.23
ハシモト @namakosan3Originally posted 2026.10.23
oMLX0.7.2ですが、DeepSeek v4.1 Flash 1017のOQ4＋MTPで、M3 Ultraで１Mコンテキストぶち込みましたが、このパフォーマンスなら個人的には実用になります。すげーや、これ。ほぼローカルで仕事ができる。(^^;;
x.com/namakosan3/status/2113480758962921820Archived 2026.10.23 12:06