10:57arXiv cs.LG@Meher Sai Preetam, Meher Bhaskar本文提出 Simplex-Constrained Sparse Bagging (SCSB),一种用于后训练压缩和概率校准的数学框架。标准 Bagging 集成(如随机森林、Bagged SVM 等)对所有基估计器赋予均匀投票权重,忽略了它们在不同区域的局部能力差异,导致模型过度自信。SCSB 通过在概率单纯形上最小化袋外损失,将集成剪枝和校准联合优化,并引入凹二次惩罚解决 L1 单纯形悖论(L1 范数在单纯形上为常数,无法直接剪枝)。该方法与模型无关,可实现高达 96% 的集成压缩,带来线性推理加速,同时降低期望校准误差,保持或提升泛化精度。论文集成学习模型压缩概率校准BaggingSCSB推荐理由:做集成学习或模型部署的团队,SCSB 能帮你把随机森林等 Bagging 模型压缩 96% 且校准更好,直接省推理成本。原文