Defensive（防御性）在 AI 领域泛指以防护、抑制风险为目标的模型方法与系统设计，覆盖网络安全防御、自动驾驶防御性驾驶、智能体安全防护等多个子方向，近期正从单点防护技术演化为包含评估基准与理论分析的研究体系。随着大模型与智能体能力增强，防御性研究既关注如何让 AI 更好地承担防护任务，也关注如何约束 AI 自身带来的攻击面。
Defensive 方向近期进展
当前焦点与观察点
网络安全是 Defensive 研究最活跃的应用场景。美国专家公开呼吁将 AI 用于网络安全防御，而 OpenAI 相关的两篇工作分别梳理了大模型与生成式 AI 在安全与隐私中的双刃剑风险——包括 AI 生成恶意软件与防御策略——以及具备网络攻防能力的智能体所需的漏洞评估与响应遏制机制。值得注意的是，攻防两侧的评估标准也在变化：Beyond Success Rate 一文指出，仅以成功率衡量安全智能体不够，需要引入成本感知的评估方式；驾驶领域的 NAVSIM 评分审计则发现共享 rollout 会扭曲防御性驾驶的评估结果。
总体来看，Defensive 相关工作的趋势有三点：一是从经验性防护走向有复杂度保证的理论分析；二是防御对象从外部攻击扩展到 AI 智能体自身的失控行为；三是评估体系开始计入防御的成本与过度防御的代价。后续值得观察的是，防御充分性的博弈建模能否与运行时遏制等工程手段形成闭环，以及成本感知评估是否会成为安全智能体的主流标准。