10:54
官方账号arXiv cs.LG@Elena Dumitrescu, Gert Lek, Lydia Y. Chen, Jérémie Decouchant
推荐理由：这篇论文发现扩散LLM的安全对齐其实很脆，用剪枝就能把越狱成功率拉到80%多，还给了个黑盒攻击框架SN-Guided Diffusion，成本低效果好。
Diffusion LLM
共 1 条相关 AI 资讯
8月10日
10:54
论文揭示Diffusion LLM的安全对齐机制稀疏且可迁移，自剪枝可将LLaDA攻击成功率从2.6%提升至73.8%，Dream从1.9%升至86.6%。作者提出SN-Guided Diffusion黑盒越狱框架，通过加权安全神经元损失引导扩散过程，在良性提示与越狱提示判别上AUROC达1.0。该框架在Llama-3-8B-Instruct上迁移成功率77.1%，Qwen2.5-7B-Instruct达86.9%，Gemini-2.5-Flash-Lite为74.3%，每个提示仅需20次生成。相比此前越狱框架，生成成本降低数个数量级。