Injection

general · First seen 2026-05-22 · Last seen 2026-10-23 · 90 mentions

Overview

Injection(注入)在 AI 语境下主要指提示注入(prompt injection)及相关攻击手法,即通过在输入内容中嵌入恶意指令,诱导语言模型或智能体执行非预期操作。随着 AI 智能体获得浏览器、支付、文件系统等真实权限,注入攻击已从学术问题上升为直接影响产品安全的工程挑战,也是当前 Agent 安全面最受关注的话题之一。

Prompt Injection 近期进展

  • Claude Opus 5 在实际使用中被评估为目前最不易被提示注入攻破的模型,Simon Willison 在博客中结合开发者实测指出,模型对嵌入在网页、文档中的恶意指令表现出更强的抵抗力(Claude Opus 5 成为最不易被提示注入的模型)。
  • Anthropic 联合安全公司 Gray Swan 发起 prompt injection 攻防竞赛,邀请参与者对模型展开真实攻击,以系统性地摸清现有防御边界(Anthropic 联合 Gray Swan 举办 prompt injection 攻防竞赛)。
  • arXiv 上的新工作 MobileInject 提出了首个针对移动智能体的多模态注入攻击安全基准,把注入测试从纯文本扩展到屏幕截图等视觉输入场景(MobileInject:首个针对移动智能体的多模态注入攻击安全基准)。
  • Anthropic 发布的 ChannelGuard 框架指出,即便每个模型单独看是安全的,多智能体系统中的消息组合仍可能被注入利用,需要从系统架构层面做防御(ChannelGuard:安全模型组合未必安全,多智能体系统防御框架)。
  • 当前焦点与观察点

    注入防御正从“模型层对抗”转向“系统层隔离”。Agent Vault 一类的方案让智能体用占位符代填支付凭证,模型全程接触不到真实密钥,相当于承认模型本身无法完全免疫注入,转而收窄其权限面(Self Labs 推出 Agent Vault)。Meta Muse 直接向用户开放云端电脑完整文件系统的做法,则在社区中被视为放大注入风险的激进设计(Meta Muse 向用户开放云端电脑完整文件系统)。

    值得后续观察的点有三个:一是注入评测会否成为智能体产品的上线门槛,类似安全审计的角色;二是多模态注入(截图、音视频)是否会成为攻防主战场;三是企业级 Agent 在生产监控中如何量化注入风险,LangChain 披露的 Orange 用 LangSmith 做企业级评估的案例提供了一个可参考的工程路径(Orange 用 LangSmith 评估企业级 Agent)。此外,安全发现的归属争议(如 OpenAI 被指将外部安全研究成果据为己有)也在影响研究者公开披露注入漏洞的意愿(OpenAI 被指将已发表的 AI 安全发现据为己有)。总体看,Injection 相关攻防在 2026 年仍处于“防御可用但不完美”的阶段,权限最小化与架构级隔离是当前最被认可的缓解思路。

    Coverage

    10 on file