主要来源arXiv: Anthropic
查看原文事件专题 · 官方一手
ChannelGuard:安全模型组合未必安全,多智能体系统防御框架
多智能体LLM应用中,Agent间传递信息的通道缺乏监控,导致指令注入攻击。现有防御主要针对输入边界或依赖云提供商过滤,隐蔽性高。论文提出ChannelGuard,在Agent间通道上设置信息瓶颈门控,通过嵌入相似度评分对比预定义攻击短语库,实现通行、压缩或阻断,无需额外LLM调用。在2,100条测试、8种攻击家族、5种防御、3种后端(Azure GPT-5、Anthropic Sonnet 4.5、Haiku 4.5)的评估中,ChannelGuard的工具输出门控在应用层100%阻断工具投毒(30/30),跨后端一致,而未防御管线完全依赖后端过滤。Prompt Injection攻击成功率从0.333降至0.167,GSM8K准确率保持0.867不变。
当前结论
这是篇讲多智能体LLM安全漏洞的论文,提出ChannelGuard,不额外调用LLM,在Agent间加门控,能防住工具投毒和指令注入,而且实验用了三个不同模型后端,结果很实在。
10 个信源42° AI 热度最后更新 2026/7/20 19:11:17
证据链
相关来源 1shao__meng
查看原文相关来源 2宝玉
查看原文相关来源 3Geek
查看原文相关来源 4IT之家
查看原文相关来源 5Decoder
查看原文相关来源 6elvis
查看原文相关来源 7AI Engineer
查看原文相关来源 8Simon Willison
查看原文相关来源 9Logan Kilpatrick
查看原文冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。