主要来源arXiv: OpenAI
查看原文事件专题 ·官方一手
对 Whisper 编码器剪枝 6 层,无需标注数据蒸馏恢复精度
论文提出一种对 OpenAI Whisper 编码器做层剪枝的方法:按 leave-one-layer-out 方式计算每层移除后的词错率(WER)变化,删掉影响最小的 6 层,占编码器层数的 18.5%。剪枝后的模型只是更浅的编码器,不需要任何自定义推理代码。再用无标注单语语音数据做蒸馏恢复精度,四语种平均 WER 从零样本的 21.9% 降到 20.1%,基线为 18.2%。代码和剪枝后的 whisper-large-v3-turbo-encoder-pruned 模型已在 GitHub 和 Hugging Face 开源。
当前结论
有人把 Whisper 的编码器砍掉 6 层还不用改推理代码,只用无标注语音蒸馏就把 WER 拉回 20.1%,模型直接可以下载用。
8 个信源44° AI 热度最后更新 2026/9/23 12:05:22
证据链
8 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。