03:00Anthropic: Research(资讯)精选Anthropic前沿红队发布报告,利用LLM ATT&CK Navigator框架系统分析AI系统可能面临的网络威胁。该导航器将攻击者行为映射到战术和技术层面,涵盖提示注入、模型窃取、训练数据投毒等攻击类型。报告为安全团队提供了针对AI特定威胁的防御策略。行业AnthropicLLM ATT&CK NavigatorAI安全红队网络威胁10 个信源在谈推荐理由:Anthropic红队用ATT&CK模型帮你理清AI系统被攻击的点,搞安全的人都该看看。原文
02:59Anthropic: Research(资讯)Anthropic前沿红队于2026年5月22日发布了一份评估报告,系统测试了LLM自主开发软件漏洞利用的能力。评估覆盖了多种前沿模型,要求其在无人类协助的情况下发现并编写针对真实漏洞的利用代码。结果显示,部分模型在简单场景中成功开发了可利用漏洞,但复杂场景下表现有限。该研究为理解前沿AI模型的网络攻击能力提供了关键基准。论文AnthropicAI安全漏洞利用红队10 个信源在谈推荐理由:Anthropic自己测了AI能不能写漏洞利用代码,结果有些还真能搞出来,建议安全从业者看看。原文