Yann LeCun 路线的 JEPA 思想做了个开源实现,把预测拆成互不干扰的要素分别推算,附论文和 GitHub 框架,想搞世界模型研究的可以看看。
#JEPA
共 21 条 · 7 天 8 条 · 30 天 11 条
信息流里打上「JEPA」标签的资讯、产品与论文,按刊登时间排,新的在上。
10月9日
JEPA-Anything:用正交预测分解统一跨领域预测框架
10月8日
RoboJEPA:8B 参数机器人世界模型,首次给出计算量缩放定律
机器人世界模型也有缩放定律了,8B 参数的 RoboJEPA 能用计算量预测真机表现,还能零样本规划长时程任务,代码全开源,搞具身的建议看看。
10月6日
10月5日
论文提出 SLIM 基准与逆动力学损失,修复 JEPA 世界模型规划失效
JEPA 世界模型在画面几乎不动时规划会崩,这篇论文用一个逆动力学辅助损失把成功率从 0.003 拉到 0.35,还给了个不需要环境访问的探测方法,做世界模型的人应该看看。
9月28日
9月16日
9月10日
8月28日
8月21日
7月18日
7月4日
7月2日
6月28日
6月1日
论文10:12
CHARM:多模态JEPA为时间序列生成语义嵌入CHARM解决了多变量时间序列表示学习的通用性问题,做传感器数据分析、工业监控或金融时序预测的团队可以直接用线性探针获得强性能,值得关注其跨数据集泛化能力。
5月21日
SpectralEarth-FM:高光谱影像首次融入多模态地球观测预训练
高光谱数据终于不再被孤立——SpectralEarth-FM 让遥感团队能用上更全面的传感器信息,做土地覆盖分类或环境监测的开发者可以直接参考其开源架构和数据集。
5月20日
HamJEPA:用哈密顿几何改进JEPA表示学习
这篇论文戳破了JEPA中“各向同性正则化无害”的默认假设,做自监督表示学习的团队值得关注——它用哈密顿几何给出了更优的耦合方式,实验提升显著且理论扎实。
5月12日
论文19:11
Clin-JEPA: 多阶段联合嵌入预测预训练框架用于EHR患者轨迹建模该工作首次将 JEPA 范式成功应用于 EHR 轨迹建模,解决了联合训练不稳定和表示坍缩的关键问题,为医疗领域预训练大模型提供了一种高效且无需任务微调的方案。