arXiv cs.AI@Zheng Yan, Jingxiang Weng, Charles Chen, Dengyun Peng, Ethan Qin, Jiannan Guan, Jinhao Liu, Qiming Yu, Yixin Yuan, Fanqing Meng, Carl Che, Mengkang Hu
精选58
推荐理由：做AI安全或智能体部署的团队会关心——这篇论文揭示了当前编码智能体在权限管理上的根本缺陷，并给出了可落地的分解方案，值得直接参考。
全部 AI 动态
AI 相关资讯全量信息流
5月15日
09:49
该论文研究了编码智能体在执行终端任务时，能否自主推断出最小权限授权边界。作者提出了权限边界推断任务和AuthBench基准测试，包含120个真实终端任务及人工审核的权限标签。实验发现，前沿模型在授权时往往既遗漏必要权限又授予多余敏感权限，且增加推理时间并不能解决这一问题，反而使模型趋向于各自的授权吸引子（要么过于宽松，要么过于严格）。为此，作者提出了充分性-紧致性分解方法，先通过前向模拟生成覆盖性策略，再审计每个授权项的合理性，该方法在多个模型上提升了敏感任务成功率并降低了攻击成功率。