8月18日
7月1日
09:55
09:55官方账号arXiv cs.LG@Ole Winther, Paul Jeha, Sander Dieleman, Andriy Mnih, Manfred Opper, Andrea Dittadi
这篇论文从变分视角系统介绍了随机微分方程(SDE)在生成机器学习中的应用。它推导了证据下界(ELBO)并作为讨论扩散模型、得分匹配和流匹配的统一框架。论文使用一维密度建模问题比较了不同参数化的效果。
推荐理由:想搞懂扩散模型、得分匹配背后的数学原理?这篇论文从变分角度讲清楚了SDE和ELBO,适合想深入理论的朋友。
5月12日
19:10
19:10官方账号arXiv cs.AI@Keya Hu, Linlu Qiu, Yiyang Lu, Hanhong Zhao, Tianhong Li, Yoon Kim, Jacob Andreas, Kaiming He
研究者提出ELF(Embedded Language Flows)模型,将连续流匹配应用于语言建模。与现有主要在离散词元上操作的扩散语言模型不同,ELF在连续嵌入空间中运行,仅在最后一步通过共享权重网络映射为离散词元。该方法可简单适配图像扩散领域的成熟技术(如无分类器引导)。实验显示,ELF在生成质量和采样步数上均显著优于当前领先的离散和连续扩散语言模型,为高效连续语言模型提供了新方向。
推荐理由:ELF展示了连续扩散模型在语言建模中的有效性,简化了技术迁移路径,可能降低语言生成模型的设计复杂度。其较少的采样步数有利于实际应用效率,值得关注。