11:55
官方账号arXiv cs.AI@Matteo Boglioni, Thibault Rousset, Siva Reddy, Marius Mosbach, Verna Dankers
推荐理由：想知道LLM遗忘是否真擦除了参数中的知识？LACUNA首次提供参数级验证，发现现有方法定位不准，容易复活。
LACUNA
共 1 条相关 AI 资讯
7月3日
11:55
LACUNA是首个具有参数级真实定位的遗忘测试床，通过掩码连续预训练将合成PII注入OLMo 1B和7B模型的预定义参数。评估发现现有SOTA遗忘方法在输出层面表现良好，但定位不精确，易受重新浮出攻击恢复已擦除知识。当遗忘精确定位相关参数时，简单梯度法也能实现强擦除并抵御重浮攻击。该测试床旨在补充行为评估，推动鲁棒遗忘方法发展。