Abliteration 是一种通过修改开源大语言模型内部权重(如干预“拒绝方向”激活值),使模型绕过自身安全防护、不再拒绝敏感请求的技术。它不改变模型的通用能力,而是移除其安全护栏,过去多见于研究社区,如今正在走向商业化和工程化。
Abliteration 近期进展
当前焦点与观察点
围绕 Abliteration 的争议集中在三点:其一,开源权重模型一经发布,任何人都可以对其做权重修改,模型发布方的安全承诺实际约束力有限;其二,将去护栏模型商品化是否触及滥用促成(abuse enablement)的法律边界,目前监管尚无明确答案;其三,安全评测普遍基于“默认行为”,对权重被改写后的模型缺乏系统评估方法。短期内可观察的方向包括:模型厂商是否引入可验证的安全微调机制、云托管平台是否限制部署去护栏版本,以及主要实验室是否会像对待越狱攻击一样,把 Abliteration 纳入红队评测的标准场景。