AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：LLM 智能体×
6月16日
20:46
6月12日
12:57
6月11日
15:28
15:23
15:07
6月9日
09:50
09:50arXiv cs.AI@Lu Jia, Haibo Tong, Feifei Zhao, Jindong Li, Dongqi Liang, Ping Wu, Qian Zhang, Yi Zeng
精选
VESTA 是一个全自动化的 LLM 智能体安全评估框架，能基于五个风险维度生成 1072 个可执行的评估场景。现有评估依赖人工编写场景或静态提示，难以捕捉智能体在任务执行中的多样化风险。VESTA 通过自动化流程对 12 个 LLM 智能体进行测试，发现平均安全风险率高达 47.1%，部分模型超过 70%。该框架强调了可执行、过程级评估对于理解和提升智能体安全性的重要性。
论文LLM 智能体安全评估自动化测试风险维度VESTA
推荐理由：做 LLM 智能体安全评估的团队终于有了自动化工具——VESTA 能生成上千个真实任务场景，直接测出模型执行中的安全漏洞。建议关注智能体安全的开发者点开看看，结果可能会让你重新审视现有模型的风险。
原文
5月13日
19:12
19:12arXiv cs.LG@Seokwon Jung, Alexander Rubinstein, Arnas Uselis, Sangdoo Yun, Seong Joon Oh
精选
MEME 是一个针对 LLM 智能体在多会话环境中记忆能力的新基准，覆盖了多实体和演化两个维度的六项任务，其中三项（级联、缺失、删除）是此前工作未评估的。在 100 个受控场景中测试了六种记忆系统，发现所有系统在默认配置下的依赖推理任务上表现极差（级联任务平均准确率 3%，缺失任务 1%），尽管静态检索性能尚可。提示优化、更深层检索、减少填充噪声以及更强的大模型都无法弥补这一差距。只有基于文件的智能体配合 Claude Opus 4.7 能部分改善，但成本是基准方案的约 70 倍，说明当前依赖推理的解决方案不具备可扩展性。
论文LLM 智能体记忆系统基准测试依赖推理MEME
推荐理由：做 LLM 智能体长期记忆系统的团队会发现，现有方案在依赖推理上几乎失效——MEME 基准暴露了被忽视的盲区，值得点开看看你的系统能否通过级联和缺失任务。
原文