精选理由
这篇论文详细梳理了LLM如何同时成为防御工具和攻击武器，还给出了具体数字和平台案例，适合想全面了解AI安全现状的人。
该综述分析了LLM和生成式AI（如ChatGPT、Claude、Gemini）在网络安全中的双重用途：既用于自动威胁检测和防御，也被用于生成恶意软件。数据显示LLM生成的恶意软件在2025年预计占检测到威胁的50%，而2021年仅占2%。论文基于70多篇学术文献和行业报告，涵盖Google Play Protect、Microsoft Defender等平台的案例。最后提出了模型水印、对抗防御等负责任部署建议。
AI 翻译 · 中文
该综述分析了LLM和生成式AI（如ChatGPT、Claude、Gemini）在网络安全中的双重用途：既用于自动威胁检测和防御，也被用于生成恶意软件。数据显示LLM生成的恶意软件在2025年预计占检测到威胁的50%，而2021年仅占2%。论文基于70多篇学术文献和行业报告，涵盖Google Play Protect、Microsoft Defender等平台的案例。最后提出了模型水印、对抗防御等负责任部署建议。
Large Language Models (LLMs) and generative AI (GenAI) systems, such as ChatGPT, Claude, Gemini, LLaMA, Copilot, Stable Diffusion by OpenAI, Anthropic, Google, Meta, Microsoft, Stability AI, respectively, are revolutioni…