Qwen3.8:27B 本地部署:从 52G 的 f16 到 7G 的 IQ1_S阶梯量化实测,AMD的7900XTX 24G和 NVIDIA的4070 8G都跑一遍
Sat 15 August 2026
·
LLM
先说结论:
- 24G 卡追求质量:Q8SLIM,22.3 GiB 全进显存,29 tok/s,这是 7900XTX 上能摸到的最高参数规格。
- 24G 卡追求速度:IQ4_XS,39.6 tok/s,质量验证 …