Bad Memory：评估智能体系统记忆中的提示注入风险

该论文研究了基于记忆的智能体系统中的提示注入攻击风险，评估了Anthropic Claude Code和OpenAI Codex两个系统，以及Claude Haiku 4.5、Claude Opus 4.7、GPT-5.2和GPT-5.5四个模型。实验发现，攻击者难以让代理用不受信任的外部内容覆盖自身记忆文件，但已经植入记忆的有效载荷可成功影响当前和未来会话。攻击成功率和载荷持久性在不同系统、模型和攻击目标间差异显著。研究揭示持久记忆改变了提示注入的威胁模型，需设计保护记忆更新的防御机制。