Feature Selection

Feature Selection(特征选择)是机器学习流程中从原始特征集合里挑选对预测最有用子集的技术,目的在于降低维度、减少过拟合并提升模型训练效率。在大模型与图学习兴起的背景下,这一经典课题正在向自动化、分布式和可解释量化方向演进,仍然是工业界数据建模管道中的关键环节。

Feature Selection 近期进展

与不确定性量化结合的理论新方向。Conformal Prediction Sets Quantify Information Gain: A Theoretical Perspective 从理论角度探讨了 conformal prediction 集合与信息增益之间的关系,为衡量特征信息量提供了新的量化框架,这类工作有望让特征贡献度的评估具备统计保证。

工业场景的自动化图特征工程。GraphFAS: A Distributed System for Automated Graph Feature Generation and Selection in Industrial Transaction Networks 提出了一套分布式系统,在工业交易网络上自动完成图特征的生成与筛选,反映出特征选择正与自动化特征工程(AutoFE)深度融合,以应对超大规模图数据。

可解释性视角下的特征效应。Sparse Autoencoders Encode Both Concepts and Functions: The Downstream Geometry of Feature Effects 研究稀疏自编码器中特征的下游几何结构,表明特征既编码概念也编码功能,为理解深度模型内部特征的作用方式提供了几何化视角。

元启发式优化在安全领域落地。Cyber-Physical Anomaly Detection in IoT-Enabled Smart Grids Using Machine Learning and Metaheuristic Feature Optimization 将机器学习与元启发式特征优化结合,用于 IoT 智能电网的异常检测,说明传统过滤法、包裹法之外,进化算法等搜索策略在特征选择中依然活跃。

当前焦点与观察点

从近期文献看,特征选择的讨论热点集中在三个方面:一是评估标准的理论化,如何用信息论或 conformal prediction 等工具给出有统计依据的特征重要性度量;二是规模化与自动化,在图数据、交易网络等复杂结构上,人工经验筛选已不现实,分布式自动生成与选择成为主流路线;三是与可解释 AI 的交叉,理解特征在模型内部的真实作用,正在超越传统

Overview

Feature Selection 近期进展

当前焦点与观察点

Coverage