11:52
官方一手arXiv: Anthropic@Elias Hossain, Md Mehedi Hasan Nipu, Fatema Tuj Johora Faria, Tasfia Nuzhat Ornee, Maleeha Sheikh
推荐理由：这是篇讲多智能体LLM安全漏洞的论文，提出ChannelGuard，不额外调用LLM，在Agent间加门控，能防住工具投毒和指令注入，而且实验用了三个不同模型后端，结果很实在。
指令注入
共 1 条相关 AI 资讯
7月23日
11:52
多智能体LLM应用中，Agent间传递信息的通道缺乏监控，导致指令注入攻击。现有防御主要针对输入边界或依赖云提供商过滤，隐蔽性高。论文提出ChannelGuard，在Agent间通道上设置信息瓶颈门控，通过嵌入相似度评分对比预定义攻击短语库，实现通行、压缩或阻断，无需额外LLM调用。在2,100条测试、8种攻击家族、5种防御、3种后端（Azure GPT-5、Anthropic Sonnet 4.5、Haiku 4.5）的评估中，ChannelGuard的工具输出门控在应用层100%阻断工具投毒（30/30），跨后端一致，而未防御管线完全依赖后端过滤。Prompt Injection攻击成功率从0.333降至0.167，GSM8K准确率保持0.867不变。