Unsloth GGUF 量化让 Qwen-Image-2.1 在 12GB 显存本地运行

Unsloth AI 发布 Qwen-Image-2.1 的 GGUF 量化版本，7B 参数的模型在 12GB 显存的消费级显卡上即可本地运行，官方称其表现与 Nano Banana 2.0 相当。硬件不足 12GB 的用户可选 Dynamic FP8 加 offloading 方案，6GB 显存也能跑，代价是速度慢约 2 倍。24GB 显存下 INT8 质量最佳，LPIPS 为 0.064，优于 FP8 的 0.112。该模型原生支持 2K 分辨率、图中文字渲染、透明图输出及最多 10 张参考图编辑，纯 CPU 或 Apple Silicon 用户 12–16GB 内存即可运行 Q4_K_M 量化版。