09:46arXiv cs.AI@Junsung Park, Hyunjung Shim精选现有驾驶视觉-语言-动作模型(Driving VLA)在轨迹预测时严重忽视视觉特征,原因是任务定义存在结构性缺陷。研究者从逆运动学角度重新设计,要求模型预测未来视觉状态作为边界条件,并引入独立逆运动学网络(交叉注意力条件扩散模型)来抑制对自车状态和文本指令的捷径依赖。仅用0.5B参数,该模型在NAVSIM-v2和nuScenes基准测试中达到7B-8B大模型的轨迹规划性能,尤其在动态驾驶场景(如转弯)中视觉特征利用显著提升。论文Driving VLA逆运动学轨迹预测自动驾驶视觉特征推荐理由:这篇论文用逆运动学原理解决了Driving VLA忽视视觉特征的顽疾,做自动驾驶轨迹规划的团队值得关注——0.5B模型就能达到7B-8B的效果,意味着更低的部署成本和更好的视觉鲁棒性。原文
21:35Anthropic: Transformer Circuits(资讯)Transformer Circuits 团队发布了 2025 年 10 月的更新,主要涉及视觉特征和字典初始化的改进。在视觉方面,他们改进了特征可视化工具,使得模型内部表示更易理解。字典初始化方面,他们探索了新的初始化方法,以提升稀疏自编码器的训练效率和效果。这些更新对于理解 Transformer 内部机制和提升模型可解释性有重要意义。论文Transformer Circuits可解释性稀疏自编码器视觉特征字典初始化推荐理由:对于研究 Transformer 可解释性和稀疏自编码器的开发者,这些更新提供了实用的工具和方法改进,值得关注。原文