V-JEPA 相关 AI 资讯 · AI 热点

8月28日

17:58

17:58

官方账号arXiv cs.AI@Lukas Kuhn, Lucas Maes, Giuseppe Serra, Quentin Le Lidec, Yann LeCun, Randall Balestriero, Florian Buettner

精选73°

LeVJEPA是首个基于LeJEPA无崩溃目标训练的视频编码器，仅需一个编码器和投影器。在相同数据下，LeVJEPA在ViT-S/B/L模型上比V-JEPA 2节省5.6至20.8倍预训练计算量，在ImageNet-1K上比最强视频基线高7.6分。采用块因果注意力训练后，LeVJEPA在运动相关基准上的准确率接近DINOv2的两倍。

论文 LeVJEPA V-JEPA 视频预训练

推荐理由：LeVJEPA用简单架构实现视频预训练，大幅降低计算量，在图像和运动任务上都表现出色。

6月9日

11:00

11:00

官方账号arXiv cs.AI@Samuele Punzo, Niccolò Caselli, Ippokratis Pantelidis, Francesco Massafra, Salvatore Lo Sardo, Mohammadreza Salehi

精选

该研究通过冻结特征探测方法，在IntPhys2和MVP基准上评估了三种视频基础模型（V-JEPA、VideoMAE、LTX-Video）对直觉物理信息的编码能力。V-JEPA在整体表现上最强，尤其在使用建模时间动态的探测时；VideoMAE表现接近，而LTX-Video虽较弱但仍能提取有效信号。分层分析显示，物理相关信息在早期层最弱，在中后期层最易获取；打乱帧顺序会显著降低性能，尤其在MVP上。结果表明，直觉物理知识在预训练视频表示中可靠涌现，但其可获取性依赖于预训练范式、表示深度和读出机制。

论文视频基础模型直觉物理分层探测

推荐理由：这项研究揭示了视频模型理解物理规律的能力差异，对从事视频理解、物理推理或自监督学习的开发者有直接参考价值，建议关注V-JEPA在时间动态建模上的优势。