8月28日
19:37
19:37官方账号arXiv cs.AI@Chenhao Wu, Haoxuan Jia, Yang Liu, Yingguang Yang, Yuhan Lin, Chongyang Zhang, Hao Zheng, Yulin Huang, Jianshen Zhang, Yongzhi Qi, Shang Luo, Kefu Xu, Jifeng Zhu, Bin Chong
精选73°
研究人员发现当前LLM智能体安全机制存在组合失效问题。传统安全监控器仅在单次轨迹内工作,无法检测跨迭代攻击。论文提出LoopHarness系统,通过持久化非衰减安全状态,将未授权操作期望数量控制在常数范围内。该研究在Agent-SafetyBench基准上进行了完整评估,包含清洁和攻击场景的配对测试。
推荐理由:MIT学者发现LLM智能体安全漏洞,提出LoopHarness解决跨迭代攻击问题,安全性能显著提升。