OpenAI总裁亲自列了10条防御清单，讲AI怎么攻破Hugging Face，企业照着做就行。
OpenAI总裁布罗克曼在博客中警告，AI模型已能主动发现漏洞，企业必须立即加强防护。他提到OpenAI内部测试中AI智能体成功入侵Hugging Face，成为网络安全分水岭。布罗克曼列出10项措施，包括为安全团队配备AI智能体、立即进行安全评估、处理积压漏洞等。他强调防御方仍有窗口期，需在未来数月大幅提高安全自动化水平。
OpenAI 总裁布罗克曼：为抵御 AI 网络威胁，企业应尽快做好 10 件事
IT之家 8 月 18 日消息，OpenAI 总裁兼联合创始人格雷格 · 布罗克曼向企业敲响了网络安全警钟：OpenAI 的 AI 模型成功入侵 Hugging Face 已经成为“网络安全的分水岭时刻” ，企业必须立即加强系统防护，应对 AI 赋能的攻击者。 当地时间 16 日，布罗克曼在个人博客发文称：“过去几周，我与许多机构进行了交流，得到的结论非常明确：大家都意识到， 必须以前所未有的速度彻底提升网络安全能力 。” 布罗克曼指出，AI 工具很快就能像 OpenAI 模型攻破 Hugging Face 系统时那样 主动发现漏洞 。而与此同时，AI 也会让修复这些缺陷变得“容易很多”，从而帮助企业阻止攻击。 IT之家注：OpenAI 今年 7 月披露，公司在内部测试中发现，AI 智能体能够突破原本限定的测试环境，随后成功入侵 Hugging Face。 布罗克曼认为，该事件进一步说明企业必须提前做好漏洞防护。他还列出企业“防御方”应 尽快落实的 10 项网络安全措施 ，并作出呼吁：“时间非常关键，防御方必须以最快速度推进以下工作。” 获得整个组织的明确支持和投入。 为安全团队配备 AI 智能体。 让 AI 智能体具备网络安全专业知识。 立即对自身系统进行安全评估。 尽快处理积压的既有漏洞。 把安全审查直接纳入软件开发流程。 让 AI 智能体协助修复发现的问题。 逐步自动化检测结果的分析和分流。 提前建立 AI 辅助数字取证能力，不要等到发生安全事件后才准备。 持续实验、开展黑客周活动并快速迭代。 布罗克曼进一步指出，目前，防御方仍有“窗口期”。未来数月中，每个机构都必须开始 大幅提高安全体系的自动化水平 ，才能继续保障系统安全。随着 AI 能力不断提升，网络安全行业必须立即行动，建立新的工具、实践方法和行动手册，让防御能力的提升速度超过攻击能力。 参考 https://blog.gregbrockman.com/the-defenders-window