AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：概念分解×
6月16日
20:46
6月12日
12:57
6月11日
15:28
15:23
15:07
6月9日
11:36
11:36arXiv cs.LG@Grégoire Dhimoïla, Victor Boutin, Agustin Martin Picard, Thomas Fel, Thomas Serre
精选
本文提出一个统一框架，将概念对齐分解为“对齐什么”（表征 vs 概念）和“对齐层级”（实例级 vs 分布级）两个维度，从而定义四种属性。作者发现现有方法常混淆这些属性，优化一个目标并不能可靠恢复其他目标。他们引入 InterVenchA 基准来独立测量提取质量、翻译质量和概念一致性。最后提出 CoSAE（耦合稀疏自编码器），联合强制执行互补的对齐目标，仅需 0.1% 配对数据即可在分布目标锚定下恢复实例级对齐。这项工作表明概念对齐本质上是多目标优化问题，需要明确定义、测量和优化。
论文表征对齐概念分解稀疏自编码器多目标优化可解释性
推荐理由：做表征对齐、多模态学习或可解释性研究的团队，这篇论文把概念对齐的混乱局面理清了——CoSAE 用极少量配对数据就能实现强对齐，值得直接复现试试。
原文
5月28日
11:58
11:58arXiv cs.LG@Thomas Vitry, Kieran Edgeworth, Stefan Wermter, Jae Hee Lee
本文提出一种无需偏见标签的后处理方法，用于识别冻结视觉模型中的虚假关联。该方法仅依赖标准类别标签，通过非负矩阵分解从中间激活中提取可解释概念向量，并利用误分类样本的梯度信号对候选概念进行排序。在Colored MNIST、Waterbirds和CelebA数据集上，该方法成功识别出已知虚假线索，且抑制排名靠前的概念可将最差组准确率提升最高17.9个百分点。该方法无需重新训练或参数更新，为部署后的模型提供了可解释的审计工具和去偏手段。代码已开源。
论文视觉模型偏见识别梯度探针概念分解后处理
推荐理由：做视觉模型部署和公平性的团队，终于有了一个无需额外标注就能定位模型偏见的工具——直接在冻结模型上分析，省去重新训练的麻烦，值得一试。
原文