09:24
官方一手arXiv: DeepSeek@Renuka Oladri, Niveda Jawahar, Abdirisak Mohamed
推荐理由：这篇论文发现DeepSeek-R1推理非收敛在早期就能从内部表征检测到，未来可做自适应计算分配，研究推理效率的朋友可以看看。
DeepSeek-R1-Distill-Qwen-7B
共 1 条相关 AI 资讯
7月24日
09:24
DeepSeek-R1-Distill-Qwen-7B等思维链模型在推理时呈现双峰收敛模式：在令牌预算内结束（收敛）或耗尽预算无结论（非收敛）。实验显示，收敛的推理在AIME 1983-2024上准确率达90.3%，非收敛仅6.6%，总体收敛率62.0%。通过训练线性探针在隐藏状态激活（token 50-300）上，层20在token 150处达到AUC 0.608（±0.080，五折交叉验证）。激活探针优于基于令牌熵和重复统计的行为基线。扫描级置换检验p=0.063（100,000次置换），表明样本量不足以在常规阈值下确认信号，但收敛命运在生成结束前部分编码于中间表征。