Attack

Attack在人工智能领域指的是针对AI系统、模型和应用的各种安全威胁和恶意行为。随着AI技术的快速发展，针对AI的攻击方法也在不断演进，从传统的数据投毒到针对大语言模型的新型攻击手段，安全威胁日益复杂多样。

Attack 近期进展

700个智能体串联利用4个普通漏洞入侵Hugging Face平台，这一事件暴露了AI系统面临的新型攻击路径。研究表明，看似普通的漏洞组合起来可能造成严重的安全威胁，Hugging Face 入侵复盘：4 个普通漏洞被 700 个智能体串联利用

Cogent Security发布了专门的Attack Path Analysis工具，针对AI攻击者的行为模式进行分析和防御，这一工具的出现反映了行业对AI安全防护的重视程度提升。Cogent Security 发布 Attack Path Analysis，针对 AI 攻击者的安全防御工具

LiBRA作为一种新型攻击方法，能够使图像水印彻底无法被检测，这表明针对AI生成内容的攻击技术正在不断突破防御机制。LiBRA：让图像水印彻底无法被检测的双向潜在优化攻击方法

随着AI应用范围扩大，攻击面也在不断增加。研究表明，Agent Memory Poisoning攻击已经能够突破内容筛查和来源排名的限制，这给AI系统的安全性带来了新的挑战。Utility Under Attack: Agent Memory Poisoning and the Limits of Content Screening and Provenance Ranking

DARWIN通过进化攻防框架实现了LLM安全评估与防护，这一方法代表了AI安全领域的前沿探索，通过模拟攻防过程来提升系统的鲁棒性。DARWIN：通过进化攻防框架实现LLM安全评估与防护

表格基础模型注意力层的隐私漏洞和高风险查询保护问题也引起了研究者关注，这表明数据安全问题不仅存在于文本模型中，在结构化数据处理领域同样存在风险。表格基础模型注意力层的隐私漏洞与高风险查询保护