10:18
官方一手arXiv: DeepSeek@Yongmin Kim, Shota Takashiro, Yusuke Iwasawa, Takeshi Kojima, Yutaka Matsuo
推荐理由：DeepSeek-R1-Distill-Qwen-7B实测：批大小4准确率比旧剪枝高39.7个点，还有1.40倍加速。
批推理
共 1 条相关 AI 资讯
8月17日
10:18
arXiv 论文提出一种面向大批量推理场景的训练免剪枝方法，针对现有自适应剪枝在批处理时阈值漂移、推理准确率崩塌的问题。方法用周期性 top-k 选择取代逐 token 阈值剪枝，并引入激活记忆累积重要神经元。在 DeepSeek-R1-Distill-Qwen-7B 上，批大小 4、50% 目标稀疏度下，平均准确率比此前最优自适应剪枝高 39.7 个百分点。实际稀疏度 50% 时相比稠密推理获得 1.40 倍加速。