JEPA(Joint-Embedding Predictive Architecture,联合嵌入预测架构)是一类自监督学习方法,由 Yann LeCun 提倡,核心思想是让模型在抽象潜空间中预测目标表征,而非逐像素重建输入,被视为潜在世界模型路线的基础框架。近期该方向研究明显升温,焦点集中在机器人与具身智能、分层规划以及与其他自监督范式的横向比较。
JEPA 近期进展
当前焦点与观察点
目前 JEPA 研究的三个争议点值得跟踪。其一是泛化边界:从图像视频扩展到时序 EHR 等结构化数据时,潜空间预测的优势并不稳定,与 MLM 等成熟范式的比较仍缺乏系统性结论。其二是规划与决策:LaLa-World、HIJP、LeWAM 等工作表明,该架构正从表征学习转向行动模型,与扩散模型、MPC 等控制方法结合成为新趋势,但多数结果来自小规模基准,尚未在真实机器人上验证。其三是理论空白:RoboJEPA 虽首次给出缩放定律,但关于为何潜空间预测优于生成式重建的解释仍以经验性观察为主。此外,The Information 的专题讨论提出"是否用错误方式构建世界模型"的质疑,反映业界对生成式与世界模型路线之争尚未定论。短期内,值得关注的信号是 RoboJEPA 路线能否在更多真实场景复现,以及分层与逆动力学设计是否成为默认组件。