#ZEDA

2 stories · 0 in 7 days · 0 in 30 days

Stories, products and papers tagged "ZEDA", newest first.

May 25

PapersSelected12:05

Chinese contentZEDA：让MoE模型具备算力预算意识，跳过半数专家

做MoE模型部署或推理优化的团队，ZEDA直接解决了算力浪费问题——跳过一半专家还能保持效果，值得一试。

#MoE/混合专家 #模型压缩/加速 #自蒸馏 #算力优化

AI Will@FinanceYF5Source

PapersSelected72°12:04

Chinese contentMoE 大模型一半专家计算可能白忙，ZEDA 可跳过 50%

做 MoE 模型推理优化的开发者终于有了新思路——ZEDA 直接砍掉一半专家计算，省成本又提速，值得在自家模型上试试。

#MoE #专家计算 #推理优化 #ZEDA

AI Will@FinanceYF5Source

ZEDA · AI news | AITOP