视觉验证实现推理时引导和自主策略改进

Visual Verification Enables Inference-time Steering and Autonomous Policy Improvement

精选理由

这篇论文展示了如何用视觉验证器让机器人策略在推理时自我改进,无需额外训练,效率堪比专家演示,值得关注。

AI 摘要

论文提出了VERITAS框架,将预训练通用机器人策略作为“生成器”,搭配无梯度的“视觉验证器”在推理时评估动作。该框架无需额外训练即可提升策略性能,优于原通用策略。使用验证的自主轨迹进行微调后,策略性能持续提升,且效率与专家演示相当,无需人工干预。实验表明推理时验证是一种实用且可扩展的部署改进机制。

AI 翻译 · 中文

论文提出了VERITAS框架,将预训练通用机器人策略作为“生成器”,搭配无梯度的“视觉验证器”在推理时评估动作。该框架无需额外训练即可提升策略性能,优于原通用策略。使用验证的自主轨迹进行微调后,策略性能持续提升,且效率与专家演示相当,无需人工干预。实验表明推理时验证是一种实用且可扩展的部署改进机制。

arXiv cs.AIRobots deployed in the real world should learn from their experience and improve over time. This requires a mechanism of practicing and learning from feedback. In this paper, we propose VERITAS, a generator-verifier fram