MESA:优先保护多智能体系统脆弱通信信道

MESA: Prioritizing Vulnerable Communication Channels for Securing Multi-Agent Systems

精选理由

Mesa能提前找出多智能体系统里最危险的通信链路,监控前10%就能拦截3倍攻击,比随机分配强多了。

AI 摘要

多智能体系统(MAS)的通信信道面临攻击风险,单个被攻破的边可导致高达75%的攻击成功率。Mesa框架无需攻击痕迹,结合6种图论度量和2种动态探测(消融和掩蔽)对边进行安全性排序。在三个MAS场景、八种网络拓扑和Qwen、Llama、Gemma等五个开源LLM上测试,排序与经验攻击成功率平均Spearman ρ=0.60,峰值0.73。资源受限时,监控Mesa排名前10%的边可拦截约3倍于随机分配的成功攻击。

AI 翻译 · 中文

多智能体系统(MAS)的通信信道面临攻击风险,单个被攻破的边可导致高达75%的攻击成功率。Mesa框架无需攻击痕迹,结合6种图论度量和2种动态探测(消融和掩蔽)对边进行安全性排序。在三个MAS场景、八种网络拓扑和Qwen、Llama、Gemma等五个开源LLM上测试,排序与经验攻击成功率平均Spearman ρ=0.60,峰值0.73。资源受限时,监控Mesa排名前10%的边可拦截约3倍于随机分配的成功攻击。

arXiv cs.AIMulti-agent systems (MAS) are increasingly used to automate complex, distributed workflows. However, their inter-agent communication channels introduce new attack surfaces that remain poorly understood and are difficult