采样方法相关 AI 资讯 · AI 热点

8月17日

10:17

10:17

官方账号arXiv cs.LG@Haohui Yang, Jiaxing Sun, Xiujun Ma

Power Sampling 通过锐化完整生成轨迹的分布来增强推理，但研究发现它可能将更多概率质量转向正确轨迹，同时使下游推理变差。以自一致性为例，在多个模型和推理基准上准确率下降最高达18.5个百分点。原因包括剂量失配：固定指数在不同问题上导致不同程度的分布变化；以及覆盖失配：全局锐化将质量集中在少数主导路径，损失了宽泛的推理路径支持。研究者提出变形控制、支持保留的 Power 目标，在加权自一致性的同预算设置下，修复后的采样器逆转了损失并超过标准多采样推理。

论文 Power Sampling Self-Consistency 推理模型

推荐理由：Power Sampling 越纠正反而越差，掉 18.5 个点，但有修复方案，比普通采样稳。

5月29日

11:06

11:06

官方账号arXiv cs.AI@Felix Zhou, Anay Mehrotra, Quanquan C. Liu

精选72°

前沿推理模型通常通过强化学习后训练得到。近期研究挑战了这一范式，表明从基础模型的幂分布中采样即可获得可比推理能力，无需额外训练。但高效采样是关键挑战。本文提出 Entropy-Cut Metropolis-Hastings 算法，利用模型下一 token 的熵作为代理，识别推理轨迹中的关键决策点（如证明策略或算法选择），并仅从这些位置重新采样，而非均匀随机截断。理论证明该方法混合时间与决策点数量成正比，而非 token 数量。在 MATH500、HumanEval、GPQA Diamond 和 AIME26 基准上，该方法一致优于基线及强化学习训练模型。

论文推理模型采样方法熵

推荐理由：这项研究为无需 RL 训练即可提升模型推理能力提供了实用采样方法，做推理模型优化或采样策略的开发者可以直接尝试 Entropy-Cut MH，它比均匀截断更高效。