09:19
官方账号arXiv cs.AI@Kaiwen Zheng, Junchen Fu, Wenhao Deng, Hu Han, Joemon M. Jose, Xuri Ge
推荐理由：他们挑战了多模态情感模型必须大的假设，用知识蒸馏搞出<1B的Light-MER，9个基准超了大模型还更快，做部署的可以看看。
Light-MER
共 1 条相关 AI 资讯
7月15日
09:19
论文针对多模态情感识别（MER）中大模型（如7B参数）推理慢、难以部署的问题，提出轻量级框架Light-MER，模型参数小于1B。通过知识蒸馏将大教师模型的知识迁移至学生模型，引入两种优化策略：基于Sliced Wasserstein距离与隐藏状态对齐的最优传输损失，以及基于GRPO的多奖励优化以平衡性能与效率。在9个基准数据集上，Light-MER取得SOTA性能，同时推理速度显著提升。代码已在GitHub开源。