14:07AlphaSignal@AlphaSignalAILeCun的新论文提出了LeJEPA方法,通过预测相关视图来恢复真实隐变量。该方法要求隐变量服从高斯动力学,否则会失效。在2D到1024维空间测试中,利用LeJEPA学习到的空间进行规划与真实世界规划匹配。论文为AI内部世界模型的正确性提供了数学证明。论文Yann LeCunLeJEPA表征学习高斯动力学规划推荐理由:LeCun用数学证明了AI学到世界内部表征的条件,方法简单但约束明确,对理解智能系统本质很有启发。原文
09:56rohanpaul_ai@rohanpaul_ai精选Yann LeCun 团队的新论文揭示了自监督模型 LeJEPA 何时能真正学到隐藏的世界变量。研究发现,只有当这些隐藏变量呈平衡的高斯分布时,LeJEPA 才能可靠地恢复它们。论文从数学上证明,当真实隐藏变量是独立高斯变量且配对视图来自稳定噪声过程时,LeJEPA 的最优解必然能恢复这些变量(至多相差一个旋转或翻转)。这为理解自监督 AI 模型何时是在学习世界结构、而非仅生成恰好有用的特征提供了理论依据。论文自监督学习世界模型LeJEPA高斯分布Yann LeCun推荐理由:这篇论文给自监督学习社区一个清晰的数学答案:什么条件下模型真的在学世界模型。做表征学习或世界模型研究的开发者,看完会对 LeJEPA 的能力边界有更硬核的理解。原文