00:02
Geek@geekbb
Geek@geekbb精选
推荐理由：Unsloth 把 1.5TB 的 GLM-5.2 压到 238GB，本地就能跑，准确率还能保住 82%。有 256GB 内存的 Mac 就能玩，开源模型天花板。
全部 AI 动态
AI 相关资讯全量信息流
6月19日
00:02
Unsloth AI 将最强开源模型 GLM-5.2 从 1.51TB 压缩至 238GB（缩小 84%），2-bit 量化版本保留约 82% 准确率。该模型可在 256GB Mac 或同等 RAM/VRAM 配置上本地运行。官方指南和 GGUF 文件已在 Hugging Face 发布。
6月16日
20:46
AITOP6月16日 20:46
6月13日
13:04
6月12日
12:57
AITOP6月12日 12:57
6月11日
15:28
AITOP6月11日 15:28
15:23
AITOP6月11日 15:23
15:07
AITOP6月11日 15:07
6月6日
08:26
08:26
rohanpaul_ai@rohanpaul_ai
rohanpaul_ai@rohanpaul_ai精选72°
推荐理由：QAT 解决了模型压缩后推理质量下降的痛点，做移动端 AI 部署的开发者可以直接用这些检查点，在手机上跑大模型不再吃内存。
04:19
04:19
Paul Couvert@itsPaulAi
Paul Couvert@itsPaulAi88°
推荐理由：本地 AI 爱好者终于等到了——Gemma 4 QAT 让旗舰级模型跑在手机和笔记本上，做边缘计算或隐私敏感应用的开发者可以直接试试。
6月3日
12:49
12:49rohanpaul_ai@rohanpaul_ai
rohanpaul_ai@rohanpaul_ai推荐理由：KV缓存是长上下文推理的瓶颈，这篇论文用自学习剪枝解决了内存爆炸问题，做LLM推理优化或长文本应用的开发者可以直接参考其方法。
5月27日
07:22
07:22
berryxia@berryxia
berryxia@berryxia推荐理由：端侧生图终于不再妥协——Bonsai Image 4B 用极致压缩把云端级质量塞进手机，做移动端 AI 应用或离线创作工具的开发者可以直接在 iPhone 上试，无需联网和付费。
5月13日
02:41
02:41
NVIDIA AI@NVIDIAAI
NVIDIA AI@NVIDIAAI推荐理由：对于关注边缘AI部署和模型压缩的开发者，Nemotron系列的技术细节具有实际参考价值，尤其适合了解NVIDIA在小模型领域的最新动态。