AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：安全过滤器×
6月16日
20:46
6月12日
12:57
6月11日
15:28
15:23
15:07
6月9日
12:30
12:30arXiv cs.LG@Seongbin Park, Fan Zhang, Baharan Mirzasoleiman, Shahriar Talebi, Nader Sehatbakhsh
精选
VLA模型在机器人操作任务中表现出色，但无法保证避免与任务无关物体的碰撞。现有安全过滤器通过查询VLM来识别障碍物，但速度太慢，无法在控制循环中实时运行。研究发现，VLA模型中的少数注意力头能可靠定位策略意图接近的目标物体。利用这些注意力头，可以在无需训练的情况下，每步获取活动目标，将场景其余部分视为障碍物，并输入控制障碍函数过滤器。结合轻量级实时目标跟踪器，该方法能有效避免非静态障碍物的碰撞，在动态场景中比使用模拟器特权状态的Oracle方法平均提升43%。
论文VLA模型安全过滤器注意力机制控制障碍函数机器人操作
推荐理由：做机器人安全控制的团队终于有了一个轻量级方案——VLA模型自带的注意力头就能当安全过滤器用，无需额外训练或重模型，动态场景效果还更好，值得点开看实现细节。
原文
6月2日
11:59
11:59arXiv cs.AI@Haimin Hu
该论文提出了一种基于共形预测的算法，用于验证交互式机器人中信念空间安全过滤器（BeliefSF）的高概率安全性。传统安全过滤器仅考虑物理空间，而BeliefSF在运行时结合推理主动降低机器人对人行为的不确定性，从而减少过滤的保守性。然而，由于运行时推理误差和神经网络近似的高维性，提供形式化安全保证极具挑战。作者通过聚焦于推理可靠区域进行验证，保留了共形预测的简单性和样本复杂度，同时显著降低了安全过滤器的保守性。在模拟人车交互基准测试中，该方法比标准共形预测基线验证了更宽松的安全过滤器。
论文安全过滤器共形预测人机交互信念空间机器人安全
推荐理由：做交互式机器人安全验证的团队终于有了兼顾宽松性和形式化保证的方法——BeliefSF结合共形预测，在减少保守性的同时保持样本效率，做自动驾驶或人机协作的开发者值得关注。
原文