PrismML 将 Qwen3.5 压缩 7 倍,9B 模型仅 2.42 GB 可本地运行
PrismML 把 Qwen3.5 9B 从 17.9 GB 压到 2.42 GB,跑分还不掉,笔记本就能跑,装个 Atomic Chat 试试。
PrismML 发布了 Ternary Bonsai 2 压缩方案,把 Qwen3.5 9B 模型从 17.9 GB 压缩到 2.42 GB,体积缩小 7 倍。压缩后的模型在基准测试中保持或超过原模型的表现。用户现在可以在 Atomic Chat 里本地运行这个压缩后的 9B 模型,消费级硬件也能承载。
Run Ternary Bonsai 2 locally in Atomic Chat 🪴
@PrismML shrank Qwen3.5 7x so the 9B goes from 17.9 GB to just 2.42 GB and it keeps up or outperforms the original model on benchmarks
Run AI models locally -> https://t.co/RbcCOIht9R https://t.co/UckJyxdeUS