09:23
官方一手arXiv: DeepSeek@Gaurab Baral, Aaditya Khanal, Yangyang Tao, Junxiu Zhou
精选
推荐理由：这篇论文告诉你：把DeepSeek-R1的推理能力蒸馏到小模型Qwen2.5-7B上，MATH-500能到73%，但回答越短准确率掉得越快。
CoT
共 3 条相关 AI 资讯
7月1日
09:23
该论文研究从大型推理模型DeepSeek-R1蒸馏知识到紧凑学生模型Qwen2.5-7B。使用2011-2025年约翰·奥布莱恩数学竞赛问题构建CoT训练语料，通过LoRA在Apple Silicon上微调。基础Qwen2.5-7B准确率64.67%，教师DeepSeek-R1达91.40%。五次独立微调后学生模型平均准确率69.43%（标准差0.17%），比基础模型提升4.76个百分点，并在MATH-500上泛化至73.1%（标准差0.18%）。研究还发现回答长度从平均220词降至31.2词时，准确率从69.43%降至41.9%。
6月23日
11:04
11:04
官方账号arXiv cs.AI@Zhuoran Jin, Kejian Zhu, Hongbang Yuan, Yupu Hao, Pengfei Cao, Yubo Chen, Kang Liu, Jun Zhao
推荐理由：这篇论文系统测了多模态思维链到底行不行，发现它在视觉定位上帮倒忙，但对数学推理很管用，还揭示了视觉瓶颈。做多模态的值得看。
6月20日
02:27
02:27
Stanford AI Lab@StanfordAILab
Stanford AI Lab@StanfordAILab推荐理由：斯坦福AI实验室的两位研究者梳理了CoT监控的来龙去脉，想理解AI安全前沿热点的演变，这篇博客值得看。