deepseek-v4.1IMAGE
V4.1 Flash 1017 EXL3 2.9bpw 本地量化实测:接近 FP8 API
本地服务器跑 EXL3 2.9bpw 量化的 V4.1 Flash 1017,输出质量与典型 FP8 API 供应商相当。
Luis Catacora
@lucataco11 天前收录原推发布于 2026.10.18

Luis Catacora @lucataco原推发布于 2026.10.18
second test with DeepSeek v4.1 flash 1017 EXL3 2.9bpw local server stays as close to the original as a typical FP8 API provider does
这条是引用着另一条写的:「V4.1 Flash 1017 EXL3 2.9bpw 量化跑上双 DGX Spark」
x.com/lucataco/status/2111530406801805458采集于 2026.10.18 16:29