AITOP

能量模型

共 4 条相关 AI 资讯
8月19日
11:40
11:40官方账号arXiv cs.LG@Yixuan Sun, Anirban Samaddar, Sandeep Madireddy
研究提出了一种基于流动匹配的模型，通过势诱导速度产生显式标量能量，其梯度恰好是转换后的学习评分函数。该方法在PDE场生成任务中实现了能量校正的数据生成，相比传统流动ODE基线，降低了PDE残差和谱距离。论文展示了能量函数可作为分布外(OOD)检测的评分工具，通过结合数据能量和基于物理的能量提高检测准确率。在逆问题应用中，研究将能量与二次观测似然组合形成后验能量，作为推理时明确选择的家族目标。
论文flow-matchingPDEOOD检测
推荐理由：物理学家和AI研究者必看！这篇论文把物理方程巧妙融入流动匹配模型，解决了PDE场生成和检测难题。
原文
8月6日
12:26
12:26官方账号arXiv cs.LG@Dmytro Knopov
论文复现了无归一化层的WideResNet-28-10上的联合能量模型（JEM），两个独立运行达到92.88%测试精度和44.46的buffer-FID，而原基准为92.9%和38.40。研究记录了两种失败模式：后期训练中通过异常缓冲机制引发的发散，以及SVHN OOD检测行为的运行依赖性。在约130个训练轮次中，Predictor-Corrector（PC）采样器替换SGLD并未带来任何方法级优势：所有十个检查点-OOD对上的AUROC绝对差低于0.007，FID差低于0.5。分层种子-图像自助抽样给出宏平均AUROC差值的95%置信区间包含零，种子级等价检验无法建立正式等价。
论文JEMCIFAR-10SGLD
推荐理由：这篇论文复现JEM，对比PC和SGLD采样器，结果在CIFAR-10上几乎没差别，AUROC差小于0.007，还暴露了训练发散问题。搞能量模型的人可以看看。
原文
8月3日
16:53
16:53官方账号Yann LeCun@ylecun
精选
Yann LeCun在推文中指出，推理时优化是能量模型（EBM）和目标驱动AI（ODAI）的基础概念。当推理变量为连续值时，基于梯度的优化方法成为自然选择。基于世界模型的系统通过梯度优化进行规划，是ODAI的典型实例。
AI模型能量模型ODAIYann LeCun
推荐理由：LeCun讲推理时优化是EBM和ODAI的根，连续变量用梯度优化，世界模型规划就是例子。
原文
6月1日
10:27
10:27官方账号arXiv cs.LG@Daniel Peñaherrera, Rishal Aggarwal, David Ryan Koes
计算化学中高效采样分子玻尔兹曼分布是一个长期挑战。传统方法计算成本高，而基于扩散模型的退火采样方法需要计算分数场的散度来估计重要性权重，对于大分子系统不可行。本文提出可扩展推理时退火（SITA），通过能量模型提供快速替代似然，重新训练流模型以逐步在更低温度下生成样本。在丙氨酸二肽和三肽上取得最先进性能，且避免了昂贵的散度项。代码已开源。
论文分子模拟扩散模型退火采样
推荐理由：SITA 解决了大分子系统退火采样中散度计算不可行的痛点，做计算化学和分子模拟的团队可以直接用开源代码复现，值得关注。
原文