AITOP

Diffusion Transformer

共 5 条相关 AI 资讯
8月18日
10:02
10:02官方账号arXiv cs.AI@Ali Boudaghi, Alireza Nemati, Hadi Zare
FirstDiff 提出基于初始噪声预测的异常检测框架，只需一次去噪网络评估即可完成推理，无需走完整个反向扩散轨迹。它利用验证数据对正常行为下的预测扩散噪声进行统计建模，从而从单次评估中推断异常。FirstDiff 采用 Diffusion Transformer 作为去噪骨干，以建模复杂的时间与传感器间依赖。在五个公开基准数据集上，FirstDiff 达到最先进性能，同时将扩散推理从完整反向轨迹缩减为单次去噪评估。
AI模型FirstDiff扩散模型异常检测
推荐理由：不用跑完整扩散过程，第一次预测噪声就能判断异常，速度快还更准，时序异常检测可以看看这个方法。
原文
8月17日
10:26
10:26官方账号arXiv cs.AI@Hao Yan, Lisa Pilgram, Dan Liu, Linglong Kong, Fida Dankar, Khaled El Emam
arXiv 论文提出 Cross-Tabular Data Generation（CTDG）两阶段框架，解决现有合成表格数据方法只能处理单一输入表的问题。第一阶段把多个异构原始表转换为列结构一致的统计表，保留边际分布和两两相关性。第二阶段用扩散 Transformer 学习统计表的结构模式并生成新统计表，再通过多元高斯采样和逆概率积分变换还原为原始表格。实验显示生成数据的保真度与多样性平衡良好，能支持不限数量的合成异构表生成。
论文Diffusion TransformerCTDG合成数据
推荐理由：想给医疗或表格类基准造数据的朋友可以看看，它把多张结构不同的表统一起来生成，不用再受单表限制了。
原文
8月5日
12:03
12:03官方账号arXiv cs.LG@Yuanshen Guan, Zipeng Feng, Zhiwei Xiong, Peiqin Sun
论文提出 Latent Reward Registers，在冻结的 Diffusion Transformer（DiT）输入序列中加入可学习的 register token，直接从中间噪声潜在表示估计最终偏好奖励。相比稀疏终端奖励，该方法在整个去噪过程提供稠密、可微的奖励信号。训练策略 RG-OPD 在在线策略轨迹上蒸馏奖励梯度，GPU 时间最多减少 33 倍，超过在线强化学习基线。推理策略 RGS 无需参数更新即可引导采样，在无训练方法中达到新 SOTA。在高噪声水平 u=0.8 时，寄存器在潜在奖励模型中成对准确率最高。
论文Latent Reward RegistersDiffusion TransformerRG-OPD
推荐理由：这篇论文给扩散模型加了个奖励寄存器，不用改生成器就能获得稠密奖励，训练比在线 RL 快 33 倍，做生成对齐的可以看看。
原文
6月23日
13:03
13:03官方账号arXiv cs.AI@Yuanming Yang, Guoqing Ma, Bo Wang, Yuan Zhang, Wei Tang, Chenyi Li, Haoyang Huang, Nan Duan
DiT-Reward利用预训练的文生图Diffusion Transformer（DiT）的生成表征进行奖励预测。在HPDv2和HPDv3基准上分别达到85.6%和77.6%的准确率，全面超越HPSv3。冻结生成骨干网络时，轻量头仍能提取有效偏好。用于优化Stable Diffusion 3.5 Large时，DiT-Reward在生成逼真度上明显优于HPSv3，且推理速度提升1.65倍。
论文DiT-RewardDiffusion TransformerHPSv3
推荐理由：这篇论文教你直接用文生图模型的内部表征来当奖励模型，效果比HPSv3好，还能加速推理，适合想搞图像生成优化的朋友
原文
6月6日
03:04