精选理由
多智能体系统开发者终于有了保护KV缓存中隐式敏感信息的方案——LCGuard在不牺牲任务性能的前提下阻断信息重建攻击，做分布式AI协作的团队值得关注。
基于大语言模型的多智能体系统常通过中间通信协调任务，其中通过Transformer的KV缓存进行潜在通信能提升效率并保留更丰富的任务相关信息。但KV缓存会编码上下文输入、中间推理状态和智能体特定信息，形成不透明通道，可能导致敏感内容在智能体间传播而无需显式文本披露。为此，研究者提出LCGuard框架，将共享KV缓存视为潜在工作记忆，在缓存工件传输前学习表示级变换。通过对抗训练形式化敏感信息泄露：若对抗解码器能从共享缓存中恢复智能体特定敏感输入，则视为不安全。实验表明，LCGuard在多个模型家族和多智能体基准上持续降低基于重建的泄露和攻击成功率，同时保持与标准KV共享基线相当的任务性能。
AI 翻译 · 中文
基于大语言模型的多智能体系统常通过中间通信协调任务，其中通过Transformer的KV缓存进行潜在通信能提升效率并保留更丰富的任务相关信息。但KV缓存会编码上下文输入、中间推理状态和智能体特定信息，形成不透明通道，可能导致敏感内容在智能体间传播而无需显式文本披露。为此，研究者提出LCGuard框架，将共享KV缓存视为潜在工作记忆，在缓存工件传输前学习表示级变换。通过对抗训练形式化敏感信息泄露：若对抗解码器能从共享缓存中恢复智能体特定敏感输入，则视为不安全。实验表明，LCGuard在多个模型家族和多智能体基准上持续降低基于重建的泄露和攻击成功率，同时保持与标准KV共享基线相当的任务性能。
Large language model (LLM)-based multi-agent systems increasingly rely on intermediate communication to coordinate complex tasks. While most existing systems communicate through natural language, recent work shows that l…