#autoregression

9 stories · 0 in 7 days · 2 in 30 days
Stories, products and papers tagged "autoregression", newest first.
Nov 4
Oct 30
Sep 26
Sep 21
Chinese contentYann LeCun 重申自回归大模型无法实现人类水平 AI

Yann LeCun(深度学习领域权威)重申观点,说当前 LLM 无法实现人类水平 AI,理由很具体,比如推理能力在 token 空间中实现是有限的,自改进方法只适用于特定领域,跨模态能力通常用单独训练的编码器,还有家用机器人或 L4/L5 自动驾驶汽车这些例子,和现在的情况对比很清晰。

Official accountYann LeCun@ylecunSource
Aug 4
Jul 14
Papers09:21
Chinese content深度何时能在组合中存活?潜在世界模型中的计算-质量状态

这篇论文用实验告诉你,深的世界模型在滚动预测时不一定管用——在DeepMind Control的9个任务里,有2个反而是早退浅层更好,而且原因竟然出在训练方式上。搞模型规划的值得看看。

arXiv: Google DeepMind@Achyuthan SivasankarSource
Jul 10
Jul 7
May 21