模型

Ideogram 开源 fp8/nf4 模型,nf4 可在 24GB GPU 运行

精选理由

Ideogram 把模型开源到 nf4 精度,单卡 24GB 就能跑,做图像生成的团队或个人可以直接部署试试,不用再为显存发愁。

Ideogram 宣布开源其模型,提供 fp8 和 nf4 两种精度的检查点。其中 nf4 版本优化后仅需单张 24GB 显存的 GPU 即可运行,大幅降低了部署门槛。相关资源已发布在 Huggingface、GitHub 和官方博客上。此举体现了 Ideogram 对开放创新的承诺,让更多开发者和研究者能够使用和定制其图像生成模型。

原文 · Ideogram

We believe openness drives innovation. Both fp8 and nf4 checkpoints are in our repo, with the nf4 variant fitting on a single 24 GB GPU. Huggingface: huggingface.co/collections/id… Github: github.com/ideogram-oss/i… Blog: ideogram.ai/blog/ideogram-… 💬 1 🔄 2 ❤️ 26 👀 1780 📊 6 ⚡