论文精选12:05ZEDA:让MoE模型具备算力预算意识,跳过半数专家做MoE模型部署或推理优化的团队,ZEDA直接解决了算力浪费问题——跳过一半专家还能保持效果,值得一试。#MoE/混合专家#模型压缩/加速#自蒸馏#算力优化AI Will@FinanceYF5原文稍后读已读值得跟进有用关注 MoE/混合专家
论文精选72°12:04MoE 大模型一半专家计算可能白忙,ZEDA 可跳过 50%做 MoE 模型推理优化的开发者终于有了新思路——ZEDA 直接砍掉一半专家计算,省成本又提速,值得在自家模型上试试。#MoE#专家计算#推理优化#ZEDAAI Will@FinanceYF5原文稍后读已读值得跟进有用关注 MoE