Attacker（攻击者）在 AI 安全语境中指主动利用模型、系统或网络漏洞实施攻击的行为方，涵盖对抗样本制造者、提示注入攻击者以及对 AI 基础设施发起入侵的黑客。随着 AI Agent 与 AI 开发环境的普及，攻防双方围绕模型可靠性、数据安全与权限控制的博弈正在成为安全研究的核心议题。
Attacker 相关的近期研究进展
在理论层面，攻防博弈的建模正在细化。arXiv 论文 Defensive Sufficiency in a Stackelberg Model of AI Security 采用 Stackelberg 博弈模型分析 AI 安全中的防御充分性问题，把防御方与攻击者放在先手/后手的序贯决策框架下，探讨在何种条件下防御方只需达到某个充分阈值即可遏制攻击，而不必无限加码。这类工作试图为“防御到什么程度才算够”提供量化依据。
在感知与通信场景，另一篇论文 6G Sensing Security: Distributed Game-Theoretic RL for Urban Beamforming and Attacker Detection 针对城市环境下 6G 感知系统的安全问题，用分布式博弈论强化学习同时优化波束成形与攻击者检测。它把攻击者检测嵌入资源调度过程，反映出攻击建模正从独立模块走向与系统运行耦合的一体化设计。
当前焦点与观察点
攻击面的扩大是当前讨论的主要背景。AI Agent 的落地让模型具备了调用工具、执行代码的能力，提示注入、间接注入等攻击方式因此受到更多关注，掘金热文 走进 AI Agent 对 Agent 的架构与能力边界做了梳理，这类普及性讨论也助推了安全议题出圈。
其次，企业内部 AI 环境的权限与风险治理成为实践热点。Cloudflare 开源了内部日常使用的 AI 工作环境（相关讨论见 Geek 的推文），其思路是让员工用 AI 干活、生成小应用，而权限和风险由系统统一兜底——这种“系统兜底”的设计本质上是在压缩攻击者可利用的盲区，也表明业界正从“封堵具体攻击”转向“架构层面限制攻击可行性”。
值得观察的几点：一是博弈论方法能否从论文走向可落地的防御评估工具；二是 Agent 自主性提升后，攻击者滥用 Agent 本身（如自动化漏洞挖掘）带来的新型威胁；三是开源开放与安全之间的张力——Thomas Wolf 与 Matt Turck 关于开源/开放权重现状的对谈即涉及开放生态下的风险权衡，开放权重降低了研究门槛，同样也可能降低攻击者的获取成本。总体来看，关于 Attacker 的讨论正在从单点漏洞攻防，转向涵盖模型、Agent、基础设施的系统性安全框架建设，但理论与工程实践之间仍有明显距离。