机器遗忘相关 AI 资讯 · AI 热点

8月4日

09:20

09:20

官方账号arXiv cs.AI@Junkai Lin, Junkai Chen, Siqi Hou, Yuhao He, Ruiqi Liu, Chenhan Jin, Shengze Xu, Tieyong Zeng

多模态大语言模型会泄露敏感信息，现有隐私基准多采用画像级删除，而实际请求往往更细粒度。本文提出属性级遗忘任务，覆盖长文本、数值、短文本三类目标和多种遗忘比例。作者提出训练无关的CLRP框架，用激活修补定位因果层，再通过保留感知投影移除目标属性子空间。实验在多种不同架构和参数规模的MLLM上验证了CLRP的有效性。

论文机器遗忘属性遗忘多模态

推荐理由：论文把机器遗忘做到属性级：让模型忘掉指定属性，但保留同一人的其他信息。CLRP不用重训练，在多种多模态模型上都有效。

6月18日

10:49

10:49

官方账号arXiv cs.AI@Diana Magalhães, Eva Maia, João Vitorino, Isabel Praça

XGBoost-Forget是一种针对XGBoost模型的机器遗忘方法，用于删除特定数据点而无需完全重新训练。该方法在IoT-23和GeNIS两个网络入侵表格数据集上评估，使用多项指标衡量模型性能、遗忘效率和遗忘质量。实验表明，XGBoost-Forget在保持接近原始模型预测性能的同时，实现显著更快的遗忘速度，展示了其在表格网络入侵场景中的潜力。

论文 XGBoost 机器遗忘 IoT-23

推荐理由：这篇论文提出了XGBoost-Forget，让XGBoost模型能快速遗忘特定数据，在入侵检测数据集上效果不错。

6月12日

13:47

13:47

官方账号arXiv cs.LG@Shaivi Malik

该论文提出一个探索性框架，将神经网络模型编辑形式化为强化学习问题，代理通过奖励反馈修改模型参数。框架包含两个环境：MaskWorld（乘法缩放权重）和 ShiftWorld（加法更新权重），奖励函数结合效用保持和任务特定编辑目标。在文本分类的偏见缓解和图像分类的机器遗忘任务上，学习到的策略在遗忘任务中将遗忘集准确率降至接近 0%，同时保留集准确率超过 90%；在偏见缓解中，偏见相关性能提升超 5% 且保持分类效用。结果表明，模型编辑可通过 RL 学习策略，无需为每个任务手动设计专用算法。

论文强化学习模型编辑偏见缓解

推荐理由：这个框架让做模型微调或安全对齐的团队省去手动设计编辑算法的时间，直接用 RL 学习策略就能完成偏见缓解或遗忘任务，值得关注。

5月15日

11:17

11:17

官方账号arXiv cs.LG@Saisab Sadhu, Pratinav Seth, Vinay Kumar Sankarapu

精选73°

现有机器遗忘评估仅在全精度模型上进行，但实际部署的语言模型都会经过量化。研究发现，4-bit量化可以逆转梯度下降法的遗忘效果，而能抵抗量化的方法又几乎不改变模型。MANSU通过因果电路归因定位最小遗忘子图，结合零空间投影和参数幅度下限，首次实现了遗忘效果在量化后不反弹。该方法还提出了电路归因散度（CAD）作为新的验证指标，能区分结构擦除与行为抑制。实验表明，MANSU在多个模型和基准上同时满足遗忘、保留、抗量化和结构擦除四个目标。

论文机器遗忘量化因果归因

推荐理由：量化会悄悄恢复你辛苦抹掉的知识——MANSU解决了这个部署中的致命漏洞，做模型安全和对齐的团队值得关注这个新方法。