AITOP

生成模型

共 21 条相关 AI 资讯
7月2日
11:09
11:09官方账号arXiv cs.LG@Chandni Nagda, Mayank Shrivastavam Gudrun Thorkelsdottir, Gan Zhang, Morteza Mardani, Arindam Banerjee
论文提出Flow Proposal Particle Filters（FPPF），通过生成模型学习最优提议分布进行粒子传播。FPPF能降低权重方差、延缓退化，并保留贝叶斯更新步骤。通过局部化策略扩展到高维问题。在多个非线性、非高斯、高维动力系统实验中，FPPF优于统计基线和其它生成方法。
论文Flow Proposal Particle Filters粒子滤波数据同化生成模型
推荐理由：这篇论文提出了一种叫FPPF的新粒子滤波方法，用生成模型做提议分布，解决了高维和非线性场景的退化问题，实验结果很扎实。
原文
6月30日
15:16
10:05
10:05官方账号arXiv cs.LG@Chen Wang, Peiran Yun, Pan Xie, Ke Deng
现有扩散模型和连续流生成模型的确定性采样可视为求解学习到的ODE动力学，但准确离散化通常需要多步。论文指出轨迹匹配范式存在理论局限：两个学生模型可达到相同轨迹匹配损失却诱导不同端点边际分布，影响生成质量。为克服这一局限，提出边际对齐正则化器，通过追踪学生模型ODE沿线的对数密度变化并利用冻结教师模型评分来惩罚学生与教师边际分布的差异，无需辅助网络或对抗优化。该框架统一适用于原始再流和分段再流等再流族，并证明局部边际对齐通过 telescoping 总变差界控制最终时刻分布差异。在基准骨干网络上的实验验证了该方法在少步生成中的有效性。
论文Reflow扩散模型蒸馏边际对齐生成模型
推荐理由：这篇论文发现了再流蒸馏的隐藏问题——轨迹匹配可能不够，还提出了一个简单有效的边际对齐正则化，不用额外网络就能提升少步生成质量，值得做扩散加速的人看看。
原文
02:49
6月26日
10:36
6月23日
10:42
10:42官方账号arXiv cs.LG@Yuhui Yin, Vassilis M. Charitopoulos
论文提出Generative Robust Optimisation (GRO)框架，用深度生成模型（如Wasserstein Adversarial Autoencoder）的解码器图像作为不确定性集，能表达非线性、非对称和多模态依赖。框架包含五个评估标准：重建保真度、分布匹配、潜在空间规整性、鲁棒相关性和计算可处理性。在六个不确定性分布和六种生成架构的生产规划问题以及多周期设施选址实验中，系统关注全部五个标准能同时提升不确定性集的表达力和优化可解性。
论文Generative Robust Optimisation鲁棒优化生成模型不确定性量化Wasserstein Adversarial Autoencoder
推荐理由：这篇论文用生成模型替换传统固定形状的不确定性集，给出了五个可操作的评估标准，生产规划实验数据扎实，搞鲁棒优化或不确定性量化的值得看看。
原文
6月16日
10:53
10:53官方账号arXiv cs.LG@Marco Skocaj, Lukas Eller, Mate Boban
该论文从感知-失真权衡角度理论分析了分数匹配模型在无线信道估计中的适用条件。通过将下游无线任务（如容量最大化）建模为信道估计的泛函，量化了传统失真最小化方法的超额风险。数值实验表明，在高预测不确定性下，分数生成模型能实现接近贝叶斯最优的预编码，而低不确定性时判别性方法更优。该研究基于IEEE场景验证了超过5dB的信噪比增益。
论文Score-Based ModelsChannel Estimation感知-失真权衡无线通信生成模型
推荐理由：想看分数模型在无线通信里到底有什么用吗？这篇论文用感知-失真框架告诉你，信道估计时高不确定性用得分匹配，低不确定性用传统方法，有理论有实验。
原文
6月15日
11:11
6月9日
13:08
13:08官方账号arXiv cs.AI@Danqi Zhuang, Jisui Huang, Xiaoyue Xi, Andrew Kiggins, Xiaojie Wang, Ke Chen, Yue Wu
标准扩散模型通常使用单一高斯分布作为终端参考分布，这难以捕捉数据在低维流形上的结构。PTL-Diffusion 提出一种新的前向噪声过程，其终端分布不再是单一不变分布，而是一族周期性的高斯分布，从而将相位结构直接嵌入前向动力学。该方法推导了封闭形式的前向边缘分布、周期高斯终端族和显式高斯反向后验，并引入不变平均正则化项来耦合相位条件反向动力学。在环面、圆柱点云和 Olivetti 人脸数据集上的实验表明，PTL-Diffusion 在流形级别的分布匹配上优于标准 DDPM，减少了相位条件误差、特征空间协方差误差和最近邻流形距离。这项工作为结构化终端参考分布提供了有前景的方向。
论文扩散模型流形学习周期终端分布生成模型PTL-Diffusion
推荐理由：做生成模型的研究者会发现，PTL-Diffusion 用周期终端分布解决了流形结构丢失的痛点，在低维流形数据上效果明显，值得在点云或人脸生成任务上试试。
原文
6月8日
11:02
11:02官方账号arXiv cs.LG@Chris R. Jung, Markus Dörr, Natalie Jüngling, Jennifer Niessner, Adam T. Müller, Nicolaj C. Stache
计算流体动力学（CFD）虽能高保真模拟室内环境流场，但计算成本高，限制了快速探索。为解决此问题，生成式替代模型比确定性网络能更好建模分布，但迭代采样速度慢。本文首次将生成式漂移框架（Drifting Models）应用于流体力学，提出条件架构在VAE潜在空间中进行漂移，并使用标签感知掩码对齐生成样本与边界条件。该标签条件模型在精度和流一致性上匹配迭代扩散模型，但运行速度快两个数量级。此外，空间条件变体为泛化到未见几何体铺平了道路。条件漂移成为扩散模型的高效替代方案，解锁了推理速度关键的实时CFD替代模型。
论文生成模型流体模拟CFDDrifting Models实时推理
推荐理由：做流体模拟或室内环境优化的团队终于有了一个又快又准的替代方案——Drifting Models 比扩散模型快两个数量级，精度却不输，值得在实时 CFD 场景中直接试试。
原文
6月5日
11:59
11:59官方账号arXiv cs.AI@Qi Lan, Yining Tang, Yu Shen, Yi Zhou, Yuhao Wei, Jie Li, Guofa Li
精选
安全关键交通场景生成对评估自动驾驶系统在罕见但高风险交互下的表现至关重要。现有扩散方法虽在闭环生成中可控性强，但迭代去噪过程计算成本高，且长序列中易累积采样和引导误差，导致抖动、异常加速等不真实运动。RiskFlow 提出一种新框架，将未来轨迹生成建模为动作空间中的传输，通过单次前向传播学习平均速度场，将高斯动作序列转化为加速度和偏航率指令，并利用输出空间引导生成高风险交互，同时保持物理可行性。实验表明，RiskFlow 在多智能体和长时域设置下实现了对抗性与真实性的良好平衡，显著提升真实性并降低推理时间。
论文自动驾驶安全关键场景生成RiskFlow交通仿真生成模型
推荐理由：自动驾驶安全测试场景生成一直面临计算慢、动作不真实的问题，RiskFlow 用单次前向传播替代迭代去噪，做仿真评估的团队可以直接用，效果比扩散方法更高效更保真。
原文
6月2日
12:01
12:01官方账号arXiv cs.LG@Anand Babu, Rogério Almeida Gouvêa, Gian-Marco Rignanese
本文综述了生成模型、多模态学习和闭环工作流在逆向材料设计中的最新进展。逆向材料设计从正向预测转向在物理约束下直接提出满足目标的候选材料。文章比较了变分自编码器、归一化流、自回归模型和扩散模型等主流生成模型，并讨论了如何通过表示选择、训练目标、采样时引导和后生成筛选来施加可行性约束。多模态学习融合晶体结构、热力学、电子信息、显微镜、光谱、加工背景和科学文本，构建更通用的化学空间表示。文章还分析了逆向设计策略，包括条件生成与潜在优化、贝叶斯优化、强化学习和主动学习，并指出了常见的失败模式如替代利用、多样性崩溃、分布偏移和稳定性-可合成性差距。
论文生成模型多模态学习逆向材料设计晶体结构建模闭环工作流
推荐理由：这篇综述系统梳理了逆向材料设计中的生成模型与多模态学习，做材料科学或AI驱动的发现研究的团队可以快速了解当前方法、失败模式和评估实践，节省大量文献调研时间。
原文
5月29日
00:33
5月22日
11:05
11:05官方账号arXiv cs.AI@Stanislav R. Kirpichenko, Andrei V. Konstantinov, Lev V. Utkin
精选
生存分析旨在从含删失数据中估计事件时间分布，但现有方法常对风险函数施加结构假设或离散化时间轴，限制了灵活性并引入近似误差。本文提出生存扩散概率模型（SDPM），一种基于去噪扩散模型的连续时间生存分析方法。SDPM 直接建模生存结果的条件分布，利用条件独立删失假设，通过生成样本结合 Kaplan-Meier 估计器得到生存函数，无需参数假设或时间离散化。在十个真实数据集上，SDPM 在 C-index、时间依赖 AUC 和 Brier 评分上达到与树模型、提升模型和神经网络模型相当的预测性能。合成数据实验表明，SDPM 能更准确地恢复底层连续生存分布的形状，消融研究验证了目标空间变换对事件率校准和预测区分度的提升。
论文生存分析扩散模型连续时间生成模型SDPM
推荐理由：生存分析是医学、可靠性工程等领域的核心问题，SDPM 用扩散模型绕过了传统方法的参数假设和离散化限制，做生存预测的团队可以直接用公开代码复现，值得关注。
原文
5月21日
09:46
09:46官方账号arXiv cs.AI@John-Joseph Brady, Nikolas Nusken, Yunpeng Li
精选
深度状态空间模型（DSSM）在统计建模中广泛应用，但大规模训练一直困难。现有方法分为两类：自编码DSSM通过优化变分下界训练生成模型，而基于序贯蒙特卡洛（SMC）的方法可处理判别与生成任务，但因前向过程的顺序性在GPU上扩展性差。研究者提出并行变分蒙特卡洛（PVMC）方法，融合两类范式优势，在基准实验中达到或超越当前最优结果，且训练速度比最快的SMC方法快10倍。该方法可稳健训练DSSM用于判别和生成任务，解决了SMC方法在硬件上的扩展瓶颈。
论文深度状态空间模型并行变分蒙特卡洛训练加速序贯蒙特卡洛生成模型
推荐理由：做时间序列建模或状态空间模型研究的团队，PVMC让训练速度提升10倍且不牺牲精度，值得直接尝试。
原文
5月20日
11:13
11:13官方账号arXiv cs.LG@Yuchen Wu, Kangjie Zhou, Weijie Su
精选
本文研究了在结构化交互学习环境中，生成模型因反复使用其他模型生成的合成数据而导致性能退化（模型崩溃）的条件。作者用有向图形式化模型间的交互模式，发现模型崩溃的发生关键取决于交互图的拓扑结构。他们推导出模型崩溃发生的充要条件，并为线性回归和一般M估计器建立了有限样本和渐近理论保证。这项研究填补了此前仅关注单模型自训练而忽略多模型交互场景的空白。
论文模型崩溃交互学习生成模型有向图统计学习
推荐理由：做生成模型训练或数据增强的团队，这篇论文帮你搞清楚多模型交互时什么时候会踩坑——交互图拓扑是决定因素，值得仔细看看理论条件。
原文
5月19日
11:01
11:01官方账号arXiv cs.LG@Grigory Bartosh, David Ruhe, Emiel Hoogeboom, Jonathan Heek, Thomas Mensink, Tim Salimans
精选
Dual-Rate Diffusion 提出了一种新的扩散模型加速方法，通过交错执行一个稀疏更新的重上下文编码器和一个轻量去噪模型来降低推理成本。重编码器每几步提取一次高维特征，轻量模型则在每一步复用这些特征进行高效去噪。在 ImageNet 基准上，该方法在保持生成质量的同时将计算成本降低 2-4 倍。此外，该方法与蒸馏技术（如 Moment Matching Distillation）兼容，可进一步加速少步生成。
论文扩散模型推理加速ImageNet蒸馏生成模型
推荐理由：扩散模型推理慢是落地痛点，Dual-Rate Diffusion 用轻量网络复用特征，做图像生成的团队可以直接拿来加速现有模型，效果不打折。
原文
10:58
10:58官方账号arXiv cs.LG@Grigory Bartosh, Teodora Pandeva, Sushrut Karmalkar, Javier Zazo
精选
离散扩散模型在多个领域表现优异，但传统方法使用固定马尔可夫加噪链，导致生成过程需要大量采样步骤，计算成本高。本文提出 Forward-Learned Discrete Diffusion (FLDD)，引入可学习的非马尔可夫加噪过程，使生成过程在保持因子化分布的同时，能更高效地匹配目标分布。通过端到端训练所有参数，FLDD 在相同采样步数下生成质量显著优于传统离散扩散模型。实验表明，该方法在图像、文本等基准上均能实现少步高质量生成，有望加速离散扩散模型的实际应用。
论文离散扩散模型少步生成可学习加噪生成模型FLDD
推荐理由：离散扩散模型终于有了加速方案——FLDD 用可学习加噪替代固定链，做生成模型的研究者可以直接在少步采样场景下替换传统方法，效果提升明显。
原文
10:02
10:02官方账号arXiv cs.AI@Chenrui Ma, Xi Xiao, Lin Zhao, Tianyang Wang, Ferdinando Fioretto, Yanning Shen
精选
Drift Flow Matching (DFM) 提出了一种新框架，将高效的 Drift 模型（单步生成）与 Flow Matching（多步迭代生成）结合起来。DFM 保留了直接传输映射的效率，同时允许通过多步推理来优化生成质量，从而在计算成本与生成质量之间灵活权衡。实验表明，DFM 在多个任务和数据集上均有效，为生成模型提供了新的自适应采样范式。
论文生成模型Flow MatchingDrift 模型推理扩展采样效率
推荐理由：做生成模型研究的开发者终于有了一个既能高效单步生成、又能按需多步精调的框架——DFM 解决了 Drift 模型缺乏推理扩展性的痛点，值得关注其在不同场景下的灵活应用。
原文
5月18日
10:38
10:38官方账号arXiv cs.LG@Hazhir Aliahmadi, Irina Babayan, Greg van Anders
精选
变分自编码器（VAE）普遍存在后验坍塌问题，即潜在变量被忽略。本文提出熵自编码器（EAE），仅以重构损失为显式目标，通过自由能最小化的编码器集成隐式生成潜在变量的先验。EAE 能学习非高斯、多模态的潜在分布，从而缓解后验坍塌，生成多样且与数据一致的样本。在反应扩散过程、MNIST 和 CelebA 数据集上，EAE 分别捕捉了低维动力学、隐式类别区分和面部层次结构。该框架为生成模型提供了一种新的训练范式。
论文生成模型变分自编码器后验坍塌自由能最小化表示学习
推荐理由：VAE 的后验坍塌是生成模型老难题，EAE 用隐式先验巧妙绕开，做生成模型或表示学习的开发者值得一看。
原文
10:30