06:30官方账号Yann LeCun@ylecun精选Yann LeCun 在 X 平台回应网友评论,澄清他批评的对象是纯 LLM 所采用的自回归 token 预测。他表示,优秀的代码生成系统并不属于纯 LLM,工作方式也不是简单的自回归 token 预测。这条推文获得 133 次点赞、25 条回复,浏览量超过 1.7 万。行业Yann LeCun代码生成LLM推荐理由:LeCun 发推澄清:别把代码生成器和纯 LLM 自回归划等号,观点直接,适合关注大模型技术路线的人。原文稍后读已读值得跟进有用关注 Yann LeCun
09:21官方一手arXiv: Google DeepMind@Achyuthan Sivasankar这篇论文在9个DeepMind Control任务上引入shallow penalty ρ来测量深度在自回归展开中的效果,发现6/9的任务中深度帮助(ρ最高达4.7倍),2/9的任务中浅层胜出(ρ低至0.85倍)。通过消融实验,反转现象(cheetah任务)被证实由训练目标造成:仅监督早期退出第一步时ρ从0.87升至1.18,而内在折中任务不受影响。ρ的部分可预测性通过观察/动作维度和单步模型误差与ρ的Spearman相关系数约0.75(n=9)展示。在CEM规划器中,ρ的符号可预测规划是否受益于深度,反转任务上浅层规划优于深层。论文DeepMind ControlCEM planner世界模型推荐理由:这篇论文用实验告诉你,深的世界模型在滚动预测时不一定管用——在DeepMind Control的9个任务里,有2个反而是早退浅层更好,而且原因竟然出在训练方式上。搞模型规划的值得看看。原文稍后读已读值得跟进有用关注 DeepMind Control
23:52AK@_akhaliqOPSD-V是一种用于后训练阶段的自蒸馏技术,专门优化自回归视频生成器的少步生成能力。该方法通过在线策略蒸馏,让模型在仅几步推理内达到与多步推理相近的视频质量。论文展示了OPSD-V在多个视频生成基准上提升了生成效率同时保持视觉保真度。论文OPSD-V自蒸馏视频生成推荐理由:想用更少的生成步骤做出高质量视频?这篇讲OPSD-V方法,用自蒸馏让视频生成器几步就够。原文稍后读已读值得跟进有用关注 OPSD-V
23:19官方账号NVIDIA AI@NVIDIAAIDvir Samuel 将于 ICML 2026 周二下午2点(poster #1204)展示 Fast-AR 项目。Fast-AR 旨在提升自回归生成速度,项目页面已上线。该方法可能应用于图像或文本生成领域。AI模型Fast-ARICML 2026自回归推荐理由:Dvir Samuel 在 ICML 上发布 Fast-AR,一种加速自回归生成的新方法,值得关注。原文稍后读已读值得跟进有用关注 Fast-AR
10:22官方账号arXiv cs.LG@Minh Hoang Nguyen, Dai Do, Huu Hiep Nguyen, Dung Nguyen, Kien Do, Hung Le精选现代深度学习模型在时间序列预测中表现优异,但在长期预测中因自回归推理的误差累积导致性能下降。经典误差校正机制(ECM)在统计方法中有效,但在深度学习中应用有限。本文提出一种架构无关的通用误差校正器UEC-STD,通过将预测分解为趋势和季节成分分别校正,显著提升校正精度和鲁棒性。该方法无需重新训练即可集成到现有预测器中,在4种骨干网络和10个数据集上验证了有效性。代码已开源,为缓解深度时间序列模型的自回归误差提供了实用工具。论文时间序列预测误差校正深度学习推荐理由:时间序列预测的长期误差累积是实际应用中的痛点,做时序预测的团队可以直接用UEC-STD提升现有模型性能,无需重新训练,值得一试。原文稍后读已读值得跟进有用关注 时间序列预测