#剪枝

研究团队提出的新方法 HOPE，通过考虑专家间的协同作用来优化混合专家语言模型的剪枝过程，在 122B 参数模型上测试，HOPE 在 50% 剪枝率下比 REAP 等方法性能更好，在代理任务上提升达 6.1%，证明了其有效性。

这个论文提出的方法 OBC-Prune，能更精准地识别出对推理过程至关重要的句子，从而在剪枝时保留这些关键部分，提升模型推理质量。

这篇论文探讨了剪枝对稀疏自动编码器在LLMs中鲁棒性的影响，提出了新的剪枝策略，值得AI领域研究者关注。

数据库团队终于有了处理ML过滤器的数据跳过方案——用轻量元数据就能剪枝，做大数据分析或数据库内核开发的建议看看，能直接提升查询性能。

做模型压缩和边缘部署的团队终于有了一个无需重训的通道级修复方案——ASR在高稀疏度下能显著挽回精度损失，建议做剪枝优化的开发者直接试。

做推理加速的团队终于有了一个不牺牲接受率的剪枝方案——Graft用检索补偿剪枝损失，直接提升EAGLE-3 21.8%的加速比，搞LLM部署的值得试试。

做模型压缩或剪枝的团队，如果只用一种等价性测试就决定删层，可能会踩坑——这篇论文用Qwen3-8B和Llama-3.1-8B的对比告诉你，测试方法选错，安全剪枝的层数能差好几倍。建议在剪枝前先跑一下两种swap-KL诊断。