#越狱

这篇论文发现扩散LLM的安全对齐其实很脆，用剪枝就能把越狱成功率拉到80%多，还给了个黑盒攻击框架SN-Guided Diffusion，成本低效果好。

这篇论文发现，给越狱提示配张无关图片，能让ECSO防御的攻击成功率掉73个百分点。不是新防御，但交互很反直觉。

白宫测了Anthropic的Claude（代号Fable），发现它不帮你找漏洞但愿意直接修代码。安全专家说这反而是正常防御，挺反直觉的。

这篇Axios独家爆料了Anthropic模型下线背后的人事与监管内幕，解释了Fable为什么可能一时回不来，适合想了解AI出口管制和公司内幕的人。

HuggingFace CEO吐槽API护栏

官方账号Clement Delangue@ClementDelangue原文

Anthropic 的 Circuits 团队把越狱和密集特征的研究门槛降低了，做AI安全或模型可解释性的研究者可以直接参考他们的新发现和入门指南。