精选理由
Hugging Face 把 Nunchaku 的 4-bit 量化推理直接塞进 Diffusers 了,以后用 SD 省一半显存,笔记本也能跑。
Hugging Face 宣布将 Nunchaku 推理引擎集成到 Diffusers 库,支持 4-bit 量化扩散模型。开发者可以直接用 Diffusers API 加载 Nunchaku 格式的模型。该方案能将模型显存占用降低约 75%,同时保持生成质量。目前主要适配 Stable Diffusion 系列模型。
Hugging Face 把 Nunchaku 的 4-bit 量化推理直接塞进 Diffusers 了,以后用 SD 省一半显存,笔记本也能跑。
Hugging Face 宣布将 Nunchaku 推理引擎集成到 Diffusers 库,支持 4-bit 量化扩散模型。开发者可以直接用 Diffusers API 加载 Nunchaku 格式的模型。该方案能将模型显存占用降低约 75%,同时保持生成质量。目前主要适配 Stable Diffusion 系列模型。