AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：机器人安全×
6月24日
18:25
6月22日
21:36
21:36IT之家（博客/媒体）
精选
英伟达于6月22日发布NVIDIA Halos for Robotics，这是业界首套整合AI算力与安全能力的全栈机器人安全系统，面向物理AI的开发、验证及工业部署。人形机器人企业Agility将率先采用，为其工业人形机器人加入完整安全能力。系统包含硬件层（IGX Thor和Holoscan Sensor Bridge）、软件层（Halos OS及Halos Core、外部感知安全蓝图）和认证实验室（全球首个获ANSI认可覆盖物理AI功能安全与AI安全）。面向IGX的Halos Core已向注册开发者提供早期访问，开源外部感知安全蓝图已在GitHub开放。
AI产品NVIDIA HalosAgilityIGX Thor机器人安全物理AI
推荐理由：英伟达出了个机器人安全全家桶，从硬件到软件到认证一步到位，Agility的机器人先用上了，工厂场景有保障。
原文
6月16日
20:46
6月12日
12:57
6月11日
15:28
15:23
15:07
6月2日
11:59
11:59arXiv cs.AI@Haimin Hu
该论文提出了一种基于共形预测的算法，用于验证交互式机器人中信念空间安全过滤器（BeliefSF）的高概率安全性。传统安全过滤器仅考虑物理空间，而BeliefSF在运行时结合推理主动降低机器人对人行为的不确定性，从而减少过滤的保守性。然而，由于运行时推理误差和神经网络近似的高维性，提供形式化安全保证极具挑战。作者通过聚焦于推理可靠区域进行验证，保留了共形预测的简单性和样本复杂度，同时显著降低了安全过滤器的保守性。在模拟人车交互基准测试中，该方法比标准共形预测基线验证了更宽松的安全过滤器。
论文安全过滤器共形预测人机交互信念空间机器人安全
推荐理由：做交互式机器人安全验证的团队终于有了兼顾宽松性和形式化保证的方法——BeliefSF结合共形预测，在减少保守性的同时保持样本效率，做自动驾驶或人机协作的开发者值得关注。
原文