10:47
官方账号arXiv cs.LG@Md Mokarram Chowdhury, Ernie Chang, Yang Li
精选73°
推荐理由：这篇论文揭示了角色扮演越狱如何绕过AI安全机制，找到了具体的安全防护目标。
角色扮演越狱
共 1 条相关 AI 资讯
9月1日
10:47
研究人员通过机械可解释性方法分析了角色扮演越狱如何导致模型拒绝有害请求的能力减弱。研究涵盖两个基准测试、三个模型家族和四种包装器，发现成功攻击保留了有害与良性请求的区分度，但在回答开始时拒绝表达减弱，这种现象称为安全传递衰减。移除与场景框架相关的激活可以恢复拒绝能力，这些效果与模型在没有角色扮演时拒绝有害请求的内部结构共享。