论文精选

RayDer:从真实世界视频实现可扩展自监督新视角合成

RayDer: Scalable Self-Supervised Novel View Synthesis from Real-World Video

精选理由

RayDer 解决了自监督 NVS 难以规模化的问题,做 3D 视觉和场景重建的研究者可以关注其简洁的缩放规律和零样本能力,值得在真实视频数据上试试。

AI 摘要

RayDer 提出了一种统一的、前馈式 Transformer 架构,将相机估计、场景重建和渲染整合到一个主干网络中,将自监督新视角合成(NVS)转化为一个定义良好的单模型缩放问题。通过引入最小动态状态作为干扰因素,它吸收了视频中的时变内容,从而能够在无约束的真实世界视频上稳定训练。RayDer 将静态场景 NVS 作为目标任务,动态内容仅作为可扩展的监督信号,而非像动态场景(4D)NVS 那样进行重建。实验表明,RayDer 在数据和计算量上表现出清晰的幂律缩放行为,并在多个基准测试中取得了与有监督方法相媲美的零样本开放集性能。

AI 翻译 · 中文

RayDer 提出了一种统一的、前馈式 Transformer 架构,将相机估计、场景重建和渲染整合到一个主干网络中,将自监督新视角合成(NVS)转化为一个定义良好的单模型缩放问题。通过引入最小动态状态作为干扰因素,它吸收了视频中的时变内容,从而能够在无约束的真实世界视频上稳定训练。RayDer 将静态场景 NVS 作为目标任务,动态内容仅作为可扩展的监督信号,而非像动态场景(4D)NVS 那样进行重建。实验表明,RayDer 在数据和计算量上表现出清晰的幂律缩放行为,并在多个基准测试中取得了与有监督方法相媲美的零样本开放集性能。

arXiv cs.LGSelf-supervised novel view synthesis (NVS) remains challenging to scale, despite the abundance of video data, largely due to the brittleness of training on realistic videos and the hard-to-predict scaling behavior of mul