DiT-Reward:将文生图扩散Transformer转化为奖励模型

DiT-Reward: Generative Representations for Text-to-Image Reward Modeling

精选理由

这篇论文教你直接用文生图模型的内部表征来当奖励模型,效果比HPSv3好,还能加速推理,适合想搞图像生成优化的朋友

AI 摘要

DiT-Reward利用预训练的文生图Diffusion Transformer(DiT)的生成表征进行奖励预测。在HPDv2和HPDv3基准上分别达到85.6%和77.6%的准确率,全面超越HPSv3。冻结生成骨干网络时,轻量头仍能提取有效偏好。用于优化Stable Diffusion 3.5 Large时,DiT-Reward在生成逼真度上明显优于HPSv3,且推理速度提升1.65倍。

AI 翻译 · 中文

DiT-Reward利用预训练的文生图Diffusion Transformer(DiT)的生成表征进行奖励预测。在HPDv2和HPDv3基准上分别达到85.6%和77.6%的准确率,全面超越HPSv3。冻结生成骨干网络时,轻量头仍能提取有效偏好。用于优化Stable Diffusion 3.5 Large时,DiT-Reward在生成逼真度上明显优于HPSv3,且推理速度提升1.65倍。

arXiv cs.AICan representations learned for image generation also support the evaluation of generated images? We study text-to-image reward prediction as a downstream task of generative representation learning. To this end, we intro