11:20
官方账号arXiv cs.AI@Dylan Zongmin Liu
推荐理由：这篇论文提出了一个评估个人代理的新基准 SovereignPA-Bench，不仅看任务完成，还关注隐私和同意。对研究AI代理安全的人很有参考价值。
SovereignPA-Bench
共 1 条相关 AI 资讯
7月7日
11:20
SovereignPA-Bench 是一个可执行基准，用于评估用户自有个人代理（personal agent）在意图演变、平台调解、隐私边界和同意约束下的表现。基准将代理可观察状态与仅评估者的隐藏标签分离，报告任务成功、对齐、隐私、同意、证据、操纵、负担和可审计性等组件指标。研究在 120 个主权压力场景中评估了 4 个模型家族和 8 个策略基线，生成 3840 条冻结提示轨迹。全主权脚手架方法在主权得分上优于直接、仅记忆、仅同意、仅证据、ReAct/工具使用、安全提示和判断守卫基线，同时减少了隐私泄露、同意违规、过度让步和操纵捕获。人工审计显示隐私和同意方面的一致性高，而操纵方面的一致性较低。