可解释性助力端到端自动驾驶:从错误行为到性能提升

Driving the Wrong Way: Leveraging Interpretability in End2End Autonomous Driving Models

精选理由

这篇论文教你怎么用可解释性找自动驾驶模型的bug,还能动手修好它,比单纯黑盒调参靠谱多了。

AI 摘要

本文提出将无监督字典学习作为后验可解释性模块,集成到端到端自动驾驶模型中。该方法将驾驶行为分解为语义可解释的概念,并展示其对轨迹预测决策的因果影响。通过概念级定向干预,可以纠正错误的驾驶行为,带来可测量的性能提升。实验在多个驾驶场景下验证了该框架的有效性。

AI 翻译 · 中文

本文提出将无监督字典学习作为后验可解释性模块,集成到端到端自动驾驶模型中。该方法将驾驶行为分解为语义可解释的概念,并展示其对轨迹预测决策的因果影响。通过概念级定向干预,可以纠正错误的驾驶行为,带来可测量的性能提升。实验在多个驾驶场景下验证了该框架的有效性。

arXiv cs.AIThe increasing adoption of end-to-end learning for autonomous driving introduces increased model complexity and opacity, raising the risk of learning undesired or erroneous behavior. In this work, we integrate unsupervis