生成出复制图之前就能查出扩散模型背了哪些训练数据,CelebA 和 Stable Diffusion v1.4 上的数字都给出来了,做模型审计的可以看看。
#扩散模型
Odyssey-3 能生成会对你操作实时反应的互动世界,Flash 版免费可玩,还顺手在 Physics-IQ 拿了 66.1 的高分,去看看 demo。
改进 flow matching 训练的新论文,联合学路径和流,还修了低熵瓶颈问题,代码开源,做生成模型的可以看看。
Amazon AGI 新出了个循环扩散语言模型,平均分同时压过扩散和自回归两类基线,代码和权重都放出来了,可以自己跑跑看。
这篇论文改了 MCGDiff 的启动方式,用高斯桥把采样提前到中间时刻,粒子数不变的情况下误差降了约 2 倍,做扩散逆问题求解的可以看看。
一篇很巧的论文:让扩散模型在需要细节的地方用细 token、别处用粗 token,预训练模型不用重训就能提速,还能接智能体的规划布局。
科研朋友可以看看这篇:不用微调扩散模型,靠推理时搜索同时满足多个设计约束,6 个 DNA/蛋白/RNA 任务上联合成功率最高到基线 1.98 倍。
一篇方法论文:搞强化学习或扩散模型的朋友可以看看,SCF 不用重要性采样也能从 critic 给的未归一化密度里采样,训练还更快。
扩散模型解 PDE 反问题有坑,这篇论文证明输出空间优化会失准,换成 FunBCS 在输入空间优化,误差降 27-64% 还更快。
一篇挺有意思的分析论文:单步生成模型里,扩散的多步去噪没消失,而是挪到了网络各层里,还能借此把 MeanFlow SiT-L/2 压缩 16.6 倍参数。
Apple 发的新方法 probe guidance,不用多跑一次 forward pass 就能给 flow matching 模型加引导,搞生成模型的可以看看。
一个做 3D 点云生成的新扩散架构 EMERGE,用图神经网络替代常规网格化管线,一次训练就能在任意分辨率零样本出结果,做 3D 生成的话可以看看这篇。