AITP
精选全部 AI 动态AI 日报Agent 接入我的简报我的追踪阅读偏好内容方法关于更新日志信源提报反馈
外观
登录 / 注册
AITOP

Parallel Trajectory Tempering

共 1 条相关 AI 资讯
7月30日
09:32
09:32官方账号arXiv cs.LG@Nicolas Béreux, Aurélien Decelle, Cyril Furtlehner, Beatriz Seoane
该论文提出并行轨迹回火(Parallel Trajectory Tempering, PTT)训练算法,用于改进能量模型(Energy-Based Models, EBMs)的马尔可夫链蒙特卡洛(MCMC)混合问题。PTT利用优化路径的连续性,在整个学习过程中维持平衡采样,从而在高度多模态且数据稀少的科学数据集上实现稳定快速训练。与持久对比散度(Persistent Contrastive Divergence)相比,PTT的计算成本相当,并能直接估计热化时间、平衡样本和对数似然。在受限玻尔兹曼机(Restricted Boltzmann Machines)实验中,PTT持续超越现有EBM训练方法;在离散表格数据上,它同样优于当前最先进的深度生成模型,生成更高质量的样本且对过拟合和有限数据更具鲁棒性。
论文Energy-Based ModelsParallel Trajectory TemperingRestricted Boltzmann Machines

推荐理由:这篇论文提出了PTT方法,让能量模型训练又快又稳,在RBM上成绩比现有方法好,还能顺便算热化时间,值得看看。
原文
精选全部日报登录