去噪(Denoising)是机器学习中通过移除数据噪声来恢复信号的核心技术,也是扩散模型(Diffusion Model)的基础机制——模型通过学习逐步去噪的过程来生成图像、文本等数据。当前去噪研究的重心正从传统的信号处理扩展到大模型训练、推荐系统和安全防御等多个方向。
Denoising 技术近期进展
当前焦点与观察点
去噪技术的应用边界正在明显拓宽。除了生成模型这一主战场,近期研究还包括:Logic-Guided Graph Denoising Diffusion Models 将逻辑约束引入图结构的扩散去噪过程;Adapting Knowledge Graphs for Behavior Denoising in Sequential Recommendation 用知识图谱辅助过滤序列推荐中的行为噪声;以及 A JiT-Based Denoising Defense Method Against Adversarial Examples for Radio Signal Automatic Modulation Classification 将去噪作为对抗样本的防御手段。
另一个值得关注的议题是模型记忆化问题。Early Signatures of Memorization in Diffusion Models via Basin Geometry and Cyclic Denoising 尝试通过循环去噪过程检测扩散模型是否记忆训练数据,这与版权和隐私争议直接相关。总体来看,去噪正从单纯的生成手段演化为贯穿训练优化、推理加速与模型安全的基础工具,扩散语言模型能否进一步缩小与自回归模型的差距,是后续观察的重点。