Joint-Embedding（联合嵌入）是一类自监督表征学习方法的核心思路，指在潜空间中把同一数据的不同视图或不同时刻的状态映射到彼此接近的向量表示，其代表架构 JEPA（Joint-Embedding Predictive Architecture，联合嵌入预测架构）由 Yann LeCun 提倡，被视为潜在世界模型的重要技术路线。与对比学习不同，JEPA 通过在潜空间中预测目标表征而非重建原始像素来学习，近年来正从视觉领域向语言、医疗、遥感等多模态方向快速扩展。
Joint-Embedding 预测架构的近期进展
当前焦点与观察点
综合近期工作，Joint-Embedding 研究呈现三个值得关注的趋势：其一是从图像走向语言、时序、临床轨迹等非像素模态，验证潜空间预测是否为通用学习范式；其二是理论反思增多，潜空间几何、可辨识性（如 On the Identifiability of Controlled World Models 所讨论的受控世界模型可辨识性问题）与表示坍缩等基础问题成为争论核心；其三是工程层面追求轻量化与渐进式扩容，以降低训练成本。争议点在于：JEPA 类方法在语言等离散模态上的优势尚未有与 LLM 规模实验对等的证据，其潜空间预测的评估基准也缺乏共识。后续可关注多模态统一预训练以及潜变量可辨识性理论能否给出可操作的训练准则。