AITOP

OOD检测

共 5 条相关 AI 资讯
8月19日
11:40
11:40官方账号arXiv cs.LG@Yixuan Sun, Anirban Samaddar, Sandeep Madireddy
研究提出了一种基于流动匹配的模型，通过势诱导速度产生显式标量能量，其梯度恰好是转换后的学习评分函数。该方法在PDE场生成任务中实现了能量校正的数据生成，相比传统流动ODE基线，降低了PDE残差和谱距离。论文展示了能量函数可作为分布外(OOD)检测的评分工具，通过结合数据能量和基于物理的能量提高检测准确率。在逆问题应用中，研究将能量与二次观测似然组合形成后验能量，作为推理时明确选择的家族目标。
论文flow-matchingPDEOOD检测
推荐理由：物理学家和AI研究者必看！这篇论文把物理方程巧妙融入流动匹配模型，解决了PDE场生成和检测难题。
原文
8月6日
12:26
12:26官方账号arXiv cs.LG@Dmytro Knopov
论文复现了无归一化层的WideResNet-28-10上的联合能量模型（JEM），两个独立运行达到92.88%测试精度和44.46的buffer-FID，而原基准为92.9%和38.40。研究记录了两种失败模式：后期训练中通过异常缓冲机制引发的发散，以及SVHN OOD检测行为的运行依赖性。在约130个训练轮次中，Predictor-Corrector（PC）采样器替换SGLD并未带来任何方法级优势：所有十个检查点-OOD对上的AUROC绝对差低于0.007，FID差低于0.5。分层种子-图像自助抽样给出宏平均AUROC差值的95%置信区间包含零，种子级等价检验无法建立正式等价。
论文JEMCIFAR-10SGLD
推荐理由：这篇论文复现JEM，对比PC和SGLD采样器，结果在CIFAR-10上几乎没差别，AUROC差小于0.007，还暴露了训练发散问题。搞能量模型的人可以看看。
原文
8月3日
09:44
7月29日
11:43
11:43官方账号arXiv cs.LG@Tom Saliencro, Rohan Desai, Priya Nair, Maya Lindqvist, Daniel Whitmore
Mixture-of-Experts (MoE) LoRA 通常对每个 token 固定激活 k 个专家，但易在简单 token 上浪费计算、难 token 上欠拟合。CARE 利用路由器输出分布作为不确定性信号，以核采样方式按置信度阈值自适应选择专家，且当已选专家分歧时小幅扩展。在 LLaMA-3.1-8B 和 Qwen2.5-7B 的 8 个常识基准、数学、代码和知识任务上，CARE 在相同计算量下优于固定 top-k MoE-LoRA，并能在激活更少专家时匹敌固定 k=4 基线。置信度与分歧信号还提升了 OOD 检测效果，超越 MSP、熵和多遍代理方法。
论文CAREMoELoRA
推荐理由：MoE-LoRA 不用固定 k 值了，CARE 根据 token 难度自动选专家，在 LLaMA 和 Qwen 上效率更高，还能顺手做 OOD 检测。
原文
6月15日
11:12