Chinese contentAccordion 发布：单一 MoE 模型支持 5 档推理预算
一个 6B 激活 0.5B 的 MoE 模型，跑循环层数就能切 5 档推理深度，小预算也能拿到 89% 的深度增益，挺实用的思路。
#mixture-of-experts
2 stories · 0 in 7 days · 1 in 30 days
Stories, products and papers tagged "mixture-of-experts", newest first.
Oct 26
Sep 23
Chinese contentQualcomm 发布两款手机芯片，强调端侧 AI 运行能力
Qualcomm 新旗舰手机芯片能在手机本地跑 300 亿参数的 MoE 模型，端侧 AI 时代又近一步，做端侧应用的开发者可以看看。
