事件专题 ·官方一手

对 Whisper 编码器剪枝 6 层,无需标注数据蒸馏恢复精度

论文提出一种对 OpenAI Whisper 编码器做层剪枝的方法:按 leave-one-layer-out 方式计算每层移除后的词错率(WER)变化,删掉影响最小的 6 层,占编码器层数的 18.5%。剪枝后的模型只是更浅的编码器,不需要任何自定义推理代码。再用无标注单语语音数据做蒸馏恢复精度,四语种平均 WER 从零样本的 21.9% 降到 20.1%,基线为 18.2%。代码和剪枝后的 whisper-large-v3-turbo-encoder-pruned 模型已在 GitHub 和 Hugging Face 开源。

当前结论

有人把 Whisper 的编码器砍掉 6 层还不用改推理代码,只用无标注语音蒸馏就把 WER 拉回 20.1%,模型直接可以下载用。

8 个信源44° AI 热度最后更新 2026/9/23 12:05:22

证据链

8 个信源

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。