AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签:后处理×
6月16日
20:46
AITOP6月16日 20:46
600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI
6月12日
12:57
AITOP6月12日 12:57
Claude代码里藏了个20260612,18个月后的AI记忆革命已经开始倒计时
6月11日
15:28
AITOP6月11日 15:28
1107 vs 303:谷歌悄悄开源了一个“拆打字机”的模型,把大模型速度翻了4倍
15:23
AITOP6月11日 15:23
DiffusionGemma颠覆文本生成?自回归模型的“统治”要结束了
15:07
AITOP6月11日 15:07
每秒1107个token,Google开源的扩散模型为什么能改变本地推理格局?
5月28日
11:58
11:58arXiv cs.LG@Thomas Vitry, Kieran Edgeworth, Stefan Wermter, Jae Hee Lee
本文提出一种无需偏见标签的后处理方法,用于识别冻结视觉模型中的虚假关联。该方法仅依赖标准类别标签,通过非负矩阵分解从中间激活中提取可解释概念向量,并利用误分类样本的梯度信号对候选概念进行排序。在Colored MNIST、Waterbirds和CelebA数据集上,该方法成功识别出已知虚假线索,且抑制排名靠前的概念可将最差组准确率提升最高17.9个百分点。该方法无需重新训练或参数更新,为部署后的模型提供了可解释的审计工具和去偏手段。代码已开源。
论文视觉模型偏见识别梯度探针概念分解后处理

推荐理由:做视觉模型部署和公平性的团队,终于有了一个无需额外标注就能定位模型偏见的工具——直接在冻结模型上分析,省去重新训练的麻烦,值得一试。
原文
精选全部日报登录