Defense(防御)在 AI 领域指利用人工智能技术保护系统、网络与模型本身免受攻击的安全体系,涵盖网络安全、对抗攻击防御和 AI 生成内容检测等方向。随着攻击者开始用 AI 加速漏洞利用,「以 AI 防御 AI」正成为各大厂商和研究机构的共同路线,相关工具与框架在近几个月密集落地。
AI Threat Defense 与自动修复
Google Cloud 推出的 AI Threat Defense 平台是该趋势的代表性产品,目标是在分钟级时间内自动发现并修复安全漏洞,以应对 AI 加速的网络攻击。根据 Decoder 的报道,该平台将威胁检测与修复闭环自动化,缩短了传统安全运营中从发现到处置的响应窗口。另一边,Cloudflare 也发布了漏洞发现与修复系统,并介绍了基于 Workers 的多智能体安全运营框架,用多个协作的智能体承担告警研判和处置任务,把安全运营(SOC)流程 agent 化。这两家云厂商的做法显示,defense 正从被动告警走向自动闭环。
模型层与学术研究进展
在模型自身的鲁棒性方面,arXiv 上的两篇工作值得关注:DeepSeek 团队提出的 Self-Evolving Defense 框架让 LLM 智能体自我进化以抵御攻击;Robust CurveMoE 则针对 Mixture-of-Experts 模型提出多范数对抗防御方法,利用模式连通性增强鲁棒性。此外,ARB 基准数据集通过匹配作者重写的方式评估 AI 文本检测器,试图解决检测器评估中风格混淆的问题——这类检测能力也属于 defense 的广义范畴。产业界方面,Sakana AI 正在招聘防御领域的 AI 工程师,说明专注模型研究的初创公司也开始布局这一方向。
当前焦点与观察点
当前 defense 领域的核心争议集中在两点:一是自动化修复的信任边界,让智能体直接改代码或处置威胁,误判的代价与收益如何权衡仍无共识;二是评测标准缺失,各家宣称的「分钟级修复」缺乏统一基准,ARB 这类针对检测器的数据集只是开始。值得观察的三个信号:多智能体安全运营能否在生产环境稳定运行、MoE 等新架构的对抗防御是否会成为默认配置,以及 Google 与 Cloudflare 的平台化方案会不会挤压传统安全厂商的空间。整体来看,defense 正处在从规则与人工驱动转向 AI 原生防御体系的过渡期。