Chinese contentAnthropic 正为政府制定新 AI 模型监管政策提案
AI 监管是行业核心议题，Anthropic 的提案可能影响未来合规方向，关注政策动向的从业者和研究者值得一读。
#model security
46 stories · 2 in 7 days · 11 in 30 days
Jun 11
Jun 10
Chinese contentAnthropic 发布 Claude Fable 5 和 Mythos 5：同模型不同安全级别
Anthropic 首次推出同一模型的不同安全版本，做安全敏感或高风险 AI 应用的团队可以按需选择，值得关注 Mythos 5 的开放程度。
May 22
Chinese content蒸馏攻防博弈：自适应攻击与高效防御
这篇论文戳破了蒸馏防御的假象——被动评估下的鲁棒性在自适应攻击面前不堪一击。做模型安全或部署的团队，建议用文中的自适应评估框架重新审视你的防御方案。
May 21
Chinese contentMIST：通过谱回归分析检测DNN后门植入
安全团队和AI部署者终于有了一个无需先验知识就能检测模型后门的方法——MIST通过分析微调时的谱变化，在单次更新后即可识别恶意植入，比现有方法更早更准。做模型安全审计的开发者值得关注。
May 15
May 13
Chinese contentCircuit Tracing: 揭示语言模型计算图
做 AI 可解释性研究的团队终于有了一个能看清模型内部推理步骤的方法——Circuit Tracing 把黑箱计算拆成了可追踪的图结构，建议关注模型安全的研究者点开看看。