17:58
官方账号arXiv cs.AI@Lukas Kuhn, Lucas Maes, Giuseppe Serra, Quentin Le Lidec, Yann LeCun, Randall Balestriero, Florian Buettner
精选73°
推荐理由：LeVJEPA用简单架构实现视频预训练，大幅降低计算量，在图像和运动任务上都表现出色。
LeVJEPA
共 1 条相关 AI 资讯
8月28日
17:58
LeVJEPA是首个基于LeJEPA无崩溃目标训练的视频编码器，仅需一个编码器和投影器。在相同数据下，LeVJEPA在ViT-S/B/L模型上比V-JEPA 2节省5.6至20.8倍预训练计算量，在ImageNet-1K上比最强视频基线高7.6分。采用块因果注意力训练后，LeVJEPA在运动相关基准上的准确率接近DINOv2的两倍。