Mean(均值)是统计学中最基础的集中趋势度量,指一组数值的算术平均,在机器学习中它无处不在:从模型评估指标(如 mAP 中的 mean)、嵌入向量池化,到联邦学习中的参数平均聚合,均值都是核心运算。近期 arXiv 上的多篇研究从不同角度触及了“简单平均”的能力边界与改进空间。
Mean 在聚合与融合中的近期进展
当前焦点与观察点
围绕 Mean 的讨论集中在两个方向。一是“均值够不够用”:上述多项研究表明,在异质性强、存在对抗或分布偏移的场景中,无差别平均可能稀释关键信号甚至放大恶意贡献,因此研究趋势是引入权重、置信度或语义信息来修正均值聚合。二是“均值出现在哪里”:EmbDivBench 系统评测了 21 种嵌入多样性度量方法,其中不少指标本身建立在均值统计之上,其结论会反过来影响下游集成与检索系统如何使用均值类度量。
值得观察的是,均值作为默认选项的地位正在被更精细的聚合策略替代,但它的简单性与低方差特性仍使其在基线和可解释性要求高的场景中难以被完全取代。对从业者而言,何时信任均值、何时需要更复杂的融合,取决于数据同质性与威胁模型的判断。