分布偏移相关 AI 资讯

7月29日

11:32

官方账号arXiv cs.LG@Malena Loza, David Chushig-Muzo, Eva Milara, Luis Bote-Curiel, Luis Estrada-Petrocelli, Felipe Grijalva

论文评估了9种表格基础模型（TabPFNv2、TabICL、Mitra等）在分布偏移下的表现。使用了HELOC、Voting和Childhood Lead三个真实数据集，涵盖标签、社会经济和地理偏移类型。结果显示所有模型性能均系统性下降，偏移差距在0.003到0.060之间，且高性能模型需要大幅计算资源。

论文 TabPFN TabICL 表格基础模型

推荐理由：想知道表格模型换了数据还灵不灵？这篇论文测了9个主流模型，结果全都不乐观，性能差距最小也有0.003。

原文

7月14日

09:13

官方账号arXiv cs.LG@Abderaouf Bahi

这篇论文给出了图神经网络（GNN）在分布偏移下校准的第一个闭式理论表征，发现校准由单个标量决定，该标量依赖于源图与目标图之间的结构变化和特征质量。理论精确识别了模型何时过度自信、欠自信或保持校准，并直接导出了最优温度缩放策略。作者将分析扩展到对称归一化的图卷积网络、多分类和协变量偏移，导出了期望校准误差的理论上界。基于这些洞察提出了无需源域标签的STAC方法，在合成基准上校准显著提升，但在五个真实世界图数据集上不依赖目标标签的可靠校准仍具挑战。

论文 GNN STAC 分布偏移

推荐理由：这篇论文把GNN在数据分布变了之后到底准不准、慌不慌讲透了，还给出了一个不用标签的校准方法STAC，做图模型部署的值得一看。

原文

7月9日

09:52

官方账号arXiv cs.LG@Adrian Ciotinga, Yeming Dai, YooJung Choi

概率电路（PC）能高效计算复杂联合分布的推理查询，但基于似然的标准训练易对噪声、小样本和分布偏移过拟合。现有分布鲁棒优化需从头训练，而PeTeR提出一种数据无关的后训练框架，无需重新训练即可增强预训练PC的鲁棒性。在多个密度估计基准上，PeTeR有效提升基线模型对随机和对抗扰动的性能，达到或优于依赖数据的鲁棒学习基线。

论文 PeTeR 概率电路鲁棒性

推荐理由：不想重训练模型？PeTeR这个后训练方法不用数据就能给概率电路加固，效果和从头做鲁棒训练差不多。

原文

6月19日

11:40

官方账号arXiv cs.AI@Gina Wong, Drew Prinster, Suchi Saria, Rama Chellappa, Anqi Liu

该论文研究混合专家模型在分布偏移下的校准问题。先前工作表明专家级校准可提升MoE模型的准确率和校准度。本文发现硬路由模型中专家校准足以保证整体校准，但软路由模型则不足。对此提出对抗性重新加权方法，惩罚分布偏移下路由聚合的校准误差。实验证明该方法能改善平均及困难子集上的准确率-校准权衡。

论文 MoE 分布偏移校准

推荐理由：这篇论文把MoE的校准问题研究透了，告诉你硬路由和软路由有什么区别，还给了一个对抗性重加权的解法。

原文

6月16日

11:07

官方账号arXiv cs.LG@Ardianto Wibowo, Paulo E Santos, Amer Baghdadi, Matthew Stephenson, Karl Sammut, Jean-Philippe Diguet

该论文提出一种基于因果起源的统一分类法，用于描述强化学习（RL）中的分布偏移。作者将监督学习中的经典数据集偏移原则迁移到RL，通过部分可观测马尔可夫决策过程（POMDP）将交互分解为状态分布、观测过程、策略、奖励和转移动力学等结构组件。分类法区分了内部（智能体驱动）和外部（环境驱动）两种分布偏移，并从偏移时间边界角度定义了显式、隐式和混合偏移。该方法统一了分布内/分布外（ID/OOD）泛化与非平稳性，并引入性能退化与恢复指标来评估偏移影响和适应性。

论文强化学习分布偏移 POMDP

推荐理由：这篇论文把RL里训练和测试环境不一致的问题，用因果原因做了系统分类，还统一了OOD泛化和非平稳性的视角，搞清楚偏移根源才能更好做鲁棒性分析。

原文

5月26日

12:37

官方一手arXiv: DeepSeek@Pingfan Su, Kai Ye, Shijin Gong, Erhan Xu, Jin Zhu, Giulia Livieri, Chengchun Shi

精选

READER是一种新型AI文本检测方法，通过让模型在检测前生成结构化推理（rationale）来提升准确性和可解释性。它基于一个名为READ的监督数据集进行微调，该数据集包含人工标注的推理过程和判定结果。尽管只有1.5B参数，READER在分布内和分布外场景下均优于现有检测器，甚至超过GPT-5.2、Gemini-3-Pro和DeepSeek-V3.2等千倍规模的大模型。这项研究解决了AI文本检测中可解释性差和分布偏移下性能下降的关键问题。

论文 AI文本检测推理增强可解释性

推荐理由：AI文本检测的可解释性和鲁棒性一直是痛点，READER用1.5B参数就超越了千倍大模型，做内容安全或反作弊的团队值得关注这个新思路。

原文

5月19日

11:37

官方账号arXiv cs.AI@Jiayi Zhang, Fanqi Kong, Guibin Zhang, Maojia Song, Zhaoyang Yu, Jianhao Ruan, Jinyu Xiang, Bang Liu, Chenglin Wu, Yuyu Luo

精选

这篇立场论文提出，通用智能体需要环境缩放（environment scaling）来适应训练分布之外的多样任务和未见环境。当前缩放实践主要关注在固定交互规则下收集更多经验或任务，导致智能体在底层接口、动态、观测或反馈信号变化时表现脆弱。作者将轨迹缩放、任务缩放和环境缩放区分开来，并提出了统一分类法。论文对比了程序化生成器（可控、可验证）和生成式世界模型（覆盖广、开放）两种构建可扩展环境的范式。最后，论文认为可扩展环境是实现鲁棒通用智能体的关键基础。

论文通用智能体环境缩放分布偏移

推荐理由：做通用智能体研究的团队会发现，当前缩放策略的盲点被戳中了——环境规则集的分布偏移才是泛化瓶颈，值得重新审视自己的实验设计。

原文

5月14日

13:27

官方账号arXiv cs.AI@Tyler Alvarez, Ali Baheri

精选

该论文提出了一种新的幻觉检测方法，将多步推理中的幻觉视为隐藏状态轨迹的几何特性，而非传统对整个输出打分。作者通过对比PCA构建标签条件教师模型，提取七个几何过渡特征，并蒸馏出BiLSTM学生模型，仅需单次前向传播即可定位首个错误步骤。在ProcessBench、PRM800K等基准测试中，该方法优于基于熵、探针和注意力的基线，教师模型跨语言模型和数据集稳定迁移，但学生模型在分布偏移下失效。研究将步骤级幻觉检测重新定义为轨迹动力学问题，并指出分布偏移下保持对比传输裕度是部署的关键障碍。

论文幻觉检测推理模型隐藏状态轨迹

推荐理由：这篇论文把幻觉检测从“整体打分”推进到“单步定位”，做推理模型调试和可解释性研究的团队值得关注——它用几何视角揭示了错误发生的精确位置，比传统方法更细粒度。

原文

5月11日

11:44

11:44官方账号arXiv cs.LG（学术论文）

论文提出STEPS方法，解决时序预测在分布偏移下测试时自适应（TTA）中的弱可识别性、误差累积和不稳定长时修正问题。该方法将TTA重新定义为时间流形上的狄利克雷边界值问题，利用局部求解器传播前缀误差的时序平滑性，全局求解器获取跨窗口误差记忆，并通过时空流形融合（SMF）整合两者进行最终矫正。在六个标准基准和四个冻结骨干网络上，STEPS相比零样本骨干平均相对MSE降低26.82%，超过最强TTA基线12.77%。额外稀疏前缀和污染测试验证了该方法在有限和噪声前缀下的鲁棒性。

论文时序预测测试时自适应分布偏移

推荐理由：该工作首次将时序预测TTA严格建模为微分方程问题，提供了理论清晰的优化视角，并在稀疏噪声数据下表现显著优于现有方法，对实际部署中的低质量观测场景具有重要参考价值。

原文