Chinese contentMemento:不改权重即可恢复被模型编辑抹去的知识
做了模型编辑以为知识删干净了?这篇论文证明一句提示词就能恢复八成被编辑的事实。做安全审计或部署“已删除知识”模型的团队都得看看这个方法。
做了模型编辑以为知识删干净了?这篇论文证明一句提示词就能恢复八成被编辑的事实。做安全审计或部署“已删除知识”模型的团队都得看看这个方法。
TFTVs reduce computational costs for post-training model editing, making it more practical for developers working with large language models.
CACHE-UK给量化小模型做连续记忆编辑,在4-bit下比现有方法少掉11-17%的知识,泛化率还高6个点。
这篇论文搞了个医学VLM模型编辑的测试基准M3Bench,有1.6万多个问题,测了6个模型和4种编辑方法,发现各有各的坑,想搞懂模型编辑在医学领域行不行得通可以看。
这个框架让做模型微调或安全对齐的团队省去手动设计编辑算法的时间,直接用 RL 学习策略就能完成偏见缓解或遗忘任务,值得关注。