精选理由
VAORA 用一个巧妙的奖励设计,让 VLM 在物理推理中不再瞎想,在 PHYRE 和 Virtual Tool 上泛化能力更好。
VAORA (Visual Action Outcome Reasoning Alignment) 提出两种互补奖励:Visual Alignment Reward 将 VLM 推理锚定到视觉上下文,独立于智能体动作;Visual-Action Alignment Reward 将推理与动作引起的视觉结果对齐。该方法在 PHYRE 和 Virtual Tool 基准上,针对未见任务和未见环境设置提升性能,抑制幻觉链式推理并缩小推理与行为差距。实验表明,VAORA 能诱导基于视觉的、可泛化的物理智能。
AI 翻译 · 中文
VAORA (Visual Action Outcome Reasoning Alignment) 提出两种互补奖励:Visual Alignment Reward 将 VLM 推理锚定到视觉上下文,独立于智能体动作;Visual-Action Alignment Reward 将推理与动作引起的视觉结果对齐。该方法在 PHYRE 和 Virtual Tool 基准上,针对未见任务和未见环境设置提升性能,抑制幻觉链式推理并缩小推理与行为差距。实验表明,VAORA 能诱导基于视觉的、可泛化的物理智能。
Vision-language models (VLMs) struggle to generalize in interactive physical reasoning, particularly under unseen tasks and environments. Two key failure modes are prominent: hallucinated chain-of-thought (CoT) reasoning…