精选理由
视频生成中解码器长期被忽视，RefDecoder 用轻量级条件注入解决了细节丢失的痛点，做视频生成或编辑的团队可以直接替换现有系统试试，效果立竿见影。
RefDecoder 是一种参考条件视频 VAE 解码器，通过将高保真参考图像信号直接注入解码过程来改善视频生成中的细节丢失和不一致问题。它使用轻量级图像编码器将参考帧映射为高维 token，并在解码器每个上采样阶段与去噪后的视频潜在 token 协同处理。在 Inter4K、WebVid 和 Large Motion 基准测试上，RefDecoder 相比无条件基线实现了最高 +2.1dB PSNR 的提升。该方法可直接替换现有视频生成系统中的解码器而无需额外微调，并在 VBench I2V 基准上全面提升了主体一致性、背景一致性和整体质量分数。此外，RefDecoder 还能泛化到风格迁移和视频编辑优化等多种视觉生成任务。
AI 翻译 · 中文
RefDecoder 是一种参考条件视频 VAE 解码器，通过将高保真参考图像信号直接注入解码过程来改善视频生成中的细节丢失和不一致问题。它使用轻量级图像编码器将参考帧映射为高维 token，并在解码器每个上采样阶段与去噪后的视频潜在 token 协同处理。在 Inter4K、WebVid 和 Large Motion 基准测试上，RefDecoder 相比无条件基线实现了最高 +2.1dB PSNR 的提升。该方法可直接替换现有视频生成系统中的解码器而无需额外微调，并在 VBench I2V 基准上全面提升了主体一致性、背景一致性和整体质量分数。此外，RefDecoder 还能泛化到风格迁移和视频编辑优化等多种视觉生成任务。
Video generation powers a vast array of downstream applications. However, while the de facto standard, i.e., latent diffusion models, typically employ heavily conditioned denoising networks, their decoders often remain u…