论文精选10:59FMplex:为大模型部署提供虚拟化共享方案做模型服务系统或推理优化的团队,FMplex 的虚拟化思路能直接帮你省显存、降延迟,建议研究其调度和共享机制。#模型服务#虚拟化#批处理调度#推理优化aarXiv cs.AI@Hetvi Shastri 等 6 人原文稍后读已读值得跟进有用关注 模型服务