Chinese contentarXiv 论文提出 ReMA 攻击与 SecMAS 防御,加固多智能体系统安全
搞多智能体系统的开发者该看看这篇:恶意 agent 能靠迭代优化的响应操纵最终答案,论文给的 SecMAS 聚合规则靠语义相似度筛掉异常响应,理论上有安全证明,实验里 utility 也几乎不掉。
搞多智能体系统的开发者该看看这篇:恶意 agent 能靠迭代优化的响应操纵最终答案,论文给的 SecMAS 聚合规则靠语义相似度筛掉异常响应,理论上有安全证明,实验里 utility 也几乎不掉。