Chinese contentRoboRisk 基准与 LEASH 安全框架:给机器人智能体加上安全闸门
让 GPT-6、Claude Opus 5.5 这些模型去真控制机器人,危害率都不低。这篇论文给了一套能直接套在现有架构上的三层闸门方案,任务照做、危险操作被拦,做具身智能和机器人方向的开发者值得看测试细节。
让 GPT-6、Claude Opus 5.5 这些模型去真控制机器人,危害率都不低。这篇论文给了一套能直接套在现有架构上的三层闸门方案,任务照做、危险操作被拦,做具身智能和机器人方向的开发者值得看测试细节。