网络安全是保护网络系统、数据和隐私免受攻击与泄露的实践,当前正面临人工智能带来的双刃剑效应:AI既被攻击者用于生成钓鱼邮件和执行勒索攻击,也被防御者用于审计代码和检测威胁。
网络安全近期进展
AI防御工具落地:美CISA使用Anthropic Mythos模型审计政府软件,已发现大量安全漏洞(美CISA用Anthropic Mythos模型审计政府软件,已发现大量安全漏洞)。阿尔伯塔省政府同样借助Claude成功发现并修复政府系统漏洞(阿尔伯塔省政府使用Claude发现并修复政府系统漏洞)。OpenAI推出Daybreak,一个专门面向网络安全防御者的前沿AI系统(OpenAI 推出了Daybreak,一个专门给网络安全防御者的前沿AI系统)。
AI攻击实例涌现:首次AI执行的勒索软件攻击仍需人类参与,表明完全自动化尚未实现(首次AI执行的勒索软件攻击仍需人类参与)。日本一名15岁少年利用ChatGPT入侵万代频道,导致4万用户账号被注销(日本15岁少年利用ChatGPT入侵万代频道注销4万用户)。Amazon Bedrock开发出检测AI生成钓鱼邮件的方法(Amazon Bedrock 检测 AI 生成钓鱼邮件的方法)。
协议与标准改进:.AL域名发生DNSSEC故障后,Cloudflare使用扩展错误代码EDE 33告知验证绕过,推动协议透明度(.AL 域名 DNSSEC 故障后,Cloudflare 用 EDE 33 告知验证绕过)。此外,arXiv发表研究探讨多类与多标签BERT在CVE-to-CWE映射中的错误结构对比,改进漏洞分类(多类与多标签BERT在CVE-to-CWE映射中的错误结构对比)。
当前焦点与观察点
网络安全正进入AI攻防竞赛新阶段:OpenAI发布的GPT-5.6在网络安全任务上能力最强(OpenAI 发布 GPT-5.6,在网络安全和生物任务上能力最强),而LangChain将于7月15日举办智能体安全沙箱网络研讨会,聚焦智能体安全(LangChain 7月15日举办智能体安全沙箱网络研讨会)。焦点在于如何平衡AI带来的效率提升与新的风险,例如AI生成的钓鱼邮件更难识别,同时基础协议如DNSSEC仍需可靠异常处理。人类在威胁响应中的核心作用依然不可替代。