Chinese content华为麒麟 9050 系列搭载新一代达芬奇架构 NPU,业界首个 30B MoE 大模型入端
华为把 30B 参数的 MoE 模型直接塞进了手机芯片里跑,不联网不掉线,性能还提了 140%、功耗降 66%。和骁龙 8 系端侧 NPU 主流 7B-13B 模型路线相比,这个参数量激进得多。关注端侧 AI 和国产芯片的开发者都该看看。
IT之家Source
华为把 30B 参数的 MoE 模型直接塞进了手机芯片里跑,不联网不掉线,性能还提了 140%、功耗降 66%。和骁龙 8 系端侧 NPU 主流 7B-13B 模型路线相比,这个参数量激进得多。关注端侧 AI 和国产芯片的开发者都该看看。