Severity(严重度/严重程度)是衡量问题、缺陷、故障或风险影响程度的分级指标,广泛用于软件工程、安全漏洞管理、保险精算和医疗评估等场景,近年来也成为 AI 模型评估中的关键维度——即不同错误的严重度不应被同等看待。随着 AI 系统规模化落地,「如何定义和加权严重度」正从工程细节上升为方法论层面的争议点。
Severity 在 AI 评估中的近期进展
当前焦点与观察点
当前关于 Severity 的讨论集中在三个方向。其一,评估基准的加权方式:ParseBench-2 的做法代表一种趋势——用错误严重度替代简单准确率,但权重如何设定仍缺乏共识,谁有权决定「什么错误更严重」本身就是问题。其二,安全与漏洞管理:Hugging Face 入侵事件的分析显示,真实攻击往往由几个不起眼的环节串联而成,单点看严重度低不等于整体风险低,传统的 CVSS 式评分面临挑战。其三,严重度分级能否自动化:从痤疮严重度分级的医疗影像模型,到用 LLM 当裁判给风险打分,研究者正尝试把主观分级交给模型,但裁判偏差校正(如近期关于 LLM 评审偏差显式校正的工作)表明这条路径尚不成熟。值得关注的是,Coding Agents 使代码和 PR 数量激增、人工审查跟不上,开发者社区正在探索按严重度分层过滤告警的折中方案——Severity 大概率会从「指标」演进为「资源分配策略」的核心依据。