论文精选72°12:10FlexNPU:为LLM动态Prefill-Decode共置的透明NPU虚拟化FlexNPU 解决了LLM推理中prefill和decode阶段资源冲突的痛点,做模型部署和推理优化的团队可以直接参考其动态调度思路,尤其适合使用华为Ascend NPU的开发者。#NPU虚拟化#LLM推理#Prefill-Decode共置#Ascend NPUaarXiv: DeepSeek@Jiongjiong Gu 等 22 人原文稍后读已读值得跟进有用关注 NPU虚拟化