12:04
AI Will@FinanceYF5
AI Will@FinanceYF5精选72°
推荐理由：做 MoE 模型推理优化的开发者终于有了新思路——ZEDA 直接砍掉一半专家计算，省成本又提速，值得在自家模型上试试。
大模型效率
共 1 条相关 AI 资讯
5月25日
12:04
最新研究发现，MoE（混合专家）大模型中大量 token 实际上不需要专家处理，导致约一半的专家计算被浪费。论文提出的 ZEDA 方法让模型学会“该省就省”，最高可跳过约 50% 的专家计算，显著提升推理效率。这一发现对降低大模型部署成本、加速推理有重要意义，尤其适合资源受限场景。