RoboRisk 基准与 LEASH 安全框架：给机器人智能体加上安全闸门

研究者发布 RoboRisk 基准，包含 92 个仿真任务和 13 个物理机器人任务，覆盖任务拒绝、计划修复、执行期危险、注入攻击、顺序记忆五类风险场景，此前同类基准最多只覆盖两类。 论文评测了 GPT-6 Astra、GPT-6.1 Sol、GPT-6 Luna、Claude Opus 5.5、Gemini 4 Argon、Grok 4.7 六个基础模型，以及 Dream API 和 PokeBot 的 RoboAPI 两个机器人专用 API，结果显示这些模型普遍存在较高危害率。 作者随后提出 LEASH 安全框架，用决策模型（Jev 或 OpenAI 的 Decisions API）在任务、动作、不可逆操作三个层级设置审查闸门，规划器与闸门共享同一套安全策略。实验表明 LEASH 能降低全部六个模型的危害率，同时基本保留任务完成度，时间与 token 开销很小，且可接入几乎任意智能体架构。