Ascend NPU 近期进展 Ascend NPU 开源与编译器支持 华为开源Ascend NPU IR,毕昇编译器核心支持Triton与Ascend 950,这标志着华为在AI芯片领域的开放与合作迈出了重要一步。原文标题 MoE 推理新进展 vLLM AFD Plugin发布,实现MoE推理Attention-FFN分离,这一技术突破有助于提升大规模语言模型(LLM)的推理效率。原文标题 LLM 动态 Prefill-Decode 虚拟化 FlexNPU提出为LLM动态Prefill-Decode共置的透明NPU虚拟化,这一创新技术有望优化NPU资源利用,提升LLM处理能力。原文标题 当前焦点与观察点 Ascend NPU近期的发展集中在开源、编译器支持以及新型虚拟化技术等方面。这些进展不仅展示了Ascend NPU在性能上的提升,也体现了华为在AI芯片领域的开放态度和技术创新。随着这些新技术的应用,Ascend NPU有望在LLM等领域发挥更大的作用。