模型编辑相关 AI 资讯 · AI 热点

7月7日

11:08

11:08

官方账号arXiv cs.AI@Guli Zhu, Chenwei Wu, Liyue Shen

论文提出M3Bench基准，专用于评估医学视觉语言模型（VLM）的模型编辑效果。M3Bench包含16,276个问题，覆盖多种解剖结构、模态和专科，支持单次和顺序编辑。研究者评估了4种代表性编辑器在6个医学和通用VLM上的表现，发现梯度方法迁移强但破坏局部性，记忆方法局部性好但缺乏组合泛化。该基准揭示了VLM潜在空间几何与编辑方法失效的关系，为安全部署提供指导。

论文 M3Bench 医学VLM 模型编辑多模态 AI安全

推荐理由：这篇论文搞了个医学VLM模型编辑的测试基准M3Bench，有1.6万多个问题，测了6个模型和4种编辑方法，发现各有各的坑，想搞懂模型编辑在医学领域行不行得通可以看。

6月12日

13:47

13:47

官方账号arXiv cs.LG@Shaivi Malik

该论文提出一个探索性框架，将神经网络模型编辑形式化为强化学习问题，代理通过奖励反馈修改模型参数。框架包含两个环境：MaskWorld（乘法缩放权重）和 ShiftWorld（加法更新权重），奖励函数结合效用保持和任务特定编辑目标。在文本分类的偏见缓解和图像分类的机器遗忘任务上，学习到的策略在遗忘任务中将遗忘集准确率降至接近 0%，同时保留集准确率超过 90%；在偏见缓解中，偏见相关性能提升超 5% 且保持分类效用。结果表明，模型编辑可通过 RL 学习策略，无需为每个任务手动设计专用算法。

论文强化学习模型编辑偏见缓解机器遗忘 arXiv

推荐理由：这个框架让做模型微调或安全对齐的团队省去手动设计编辑算法的时间，直接用 RL 学习策略就能完成偏见缓解或遗忘任务，值得关注。