主要来源arXiv cs.LG
查看原文事件专题 · 单一信源
DeaMoE：面向快速小批量解码的高效MoE结构
DeaMoE是一种解码高效混合专家架构，将专家按专业领域分组为部门，同部门专家共享大部分参数，并各自保留少量私有参数。它采用定制两阶段路由策略，避免冗余加载，大幅提升大模型解码效率。相比vanilla MoE，DeaMoE每步加载权重最多减少50.9%，7B模型在A40上端到端TPOT加速1.33倍。在微基准测试中，DeepSeek-V3在A40和H100上分别达到2.00倍和1.97倍的峰值加速。
当前结论
DeaMoE让MoE小批量解码少搬权重、跑得更快，7B模型在A40上TPOT提速33%，DeepSeek-V3加速近2倍。
2 个信源47° AI 热度最后更新 2026/8/14 15:25:32
证据链
相关来源 1NVIDIA AI
查看原文冲突核查
现有去重数据只说明这些来源讨论同一事件，不代表立场相同。当前没有结构化的支持或反驳证据，不自动推断冲突。