Abliteration

general · First seen 2026-09-03 · Last seen 2026-10-22 · 8 mentions

Overview

Abliteration 是一种通过修改开源大语言模型内部权重(如干预“拒绝方向”激活值),使模型绕过自身安全防护、不再拒绝敏感请求的技术。它不改变模型的通用能力,而是移除其安全护栏,过去多见于研究社区,如今正在走向商业化和工程化。

Abliteration 近期进展

  • Abliteration.ai提供移除安全防护的AI模型服务:一家名为 Abliteration.ai 的公司把这项原本属于研究圈的技术做成了“一键式”商业服务,客户可以直接获得去除了安全护栏的开源模型,门槛大幅降低。
  • Abliteration.AI推出移除AI安全限制服务:TechCrunch 于 2026 年 9 月 3 日报道,该公司将“去除 AI 护栏”本身变成一门生意,引发了关于开源模型安全责任归属的讨论。
  • OpenAI企业套餐加入GLM 5.3后发布开源模型安全报告:OpenAI 在企业服务中接入第三方开源模型后发布安全报告,反映出主流厂商对开源权重模型安全性的关注度正在上升。
  • Anthropic 测试智谱 GLM-5.3:能写出可用的攻击程序,防护容易被绕过:Anthropic 的研究指出,部分开源模型的安全防护容易被绕过,且已能产出可用于网络攻击的程序,这与 Abliteration 所针对的“护栏脆弱性”问题直接相关。
  • 当前焦点与观察点

    围绕 Abliteration 的争议集中在三点:其一,开源权重模型一经发布,任何人都可以对其做权重修改,模型发布方的安全承诺实际约束力有限;其二,将去护栏模型商品化是否触及滥用促成(abuse enablement)的法律边界,目前监管尚无明确答案;其三,安全评测普遍基于“默认行为”,对权重被改写后的模型缺乏系统评估方法。短期内可观察的方向包括:模型厂商是否引入可验证的安全微调机制、云托管平台是否限制部署去护栏版本,以及主要实验室是否会像对待越狱攻击一样,把 Abliteration 纳入红队评测的标准场景。

    Coverage

    6 on file
    Abliteration · AI 话题观测|AI热报