Run Beam 1.0 501B 本地部署，Atomic Chat 发布 4 档量化版本
精选理由
Reflection AI 的 501B 模型现在能本地跑了，四档 GGUF 量化从 197GB 压到 134GB，最高那档精度损失不到 6%，有硬件的可以试试。
Atomic Chat 在 Hugging Face 上发布了 4 档 Reflection AI 新模型 Beam 1.0 501B（MoE 架构，501B 总参数、23B 激活）的 GGUF 量化版本，文件大小从 197GB 到 134GB 不等。其中 165GB 的 AD-IQ2_M 版本表现最好，与 BF16 原版相比 top-1 准确率达到 94.9%。这些量化文件让用户可以在本地硬件上运行这个超大参数模型。
原文 · @atomic_chat_hq
Run Beam 1.0 501B locally 🔦
We released 4 quants of @reflection_ai's new 501B-A23B model on Hugging Face from 197GB down to 134GB
The sweet spot is our 165GB AD-IQ2_M with a top-1% of 94.9% compared to BF16
GGUFs 👇 https://t.co/TcLsHJt1cj
