Injection

§ 01综述

Injection，通常指提示注入（Prompt Injection），是一种针对大语言模型的攻击手法：攻击者通过构造特殊输入，诱使模型忽略预设指令、泄露敏感信息或执行非授权操作。这种攻击随着AI Agent和自动化系统的普及而日益活跃，正从单纯的安全威胁演变为权衡利弊的讨论焦点。

提示注入近期进展

自动化简历筛选中的提示注入：最新研究探索了在LLM驱动的简历筛查系统中，单次和多次注入攻击的效果。实验表明，精心构造的提示可以绕过筛选逻辑，使不合格候选者获高分，暴露了招聘流程中AI应用的安全隐患。 Prompt Injection in Automated Résumé Screening with LLMs: Single and Multi-Injection Settings

Gemini Agent能力扩展风险：Gemini 3.5 Flash新增直接操控电脑的Agent能力，意味着注入攻击可能从文本领域扩展到实际系统控制。一旦Agent被注入恶意指令，可能造成数据泄露或系统破坏，对防护提出更高要求。 Gemini 3.5 Flash 新增直接操控电脑的 AI Agent 能力

提示注入的社会工程应用：Mitchell Hashimoto利用Prompt Injection，在开源项目中自动识别不审代码的贡献者。这一案例将注入从攻击手法转化为合规检查工具，展示了其正向利用的潜力。 Mitchell Hashimoto 用 prompt injection 抓不审代码的开源贡献者

当前焦点与观察点

提示注入的焦点正从“如何防御”扩展到“如何合法利用”。一方面，安全团队在开发动态检测、输入过滤等防护手段；另一方面，像Hashimoto的做法揭示了注入可作为自动化审计的“白帽”工具。然而，这种双面性也带来伦理困境：若默认注入为可接受，模型滥用门槛将大幅降低。未来，标准化注入检测框架和可控的授权机制或成为关键，而AI Agent的普及更使边界管理变得紧迫。

§ 02相关报道06 条在档

§ 03邻近话题