#GearUp

一篇系统方向的论文：GearUp 把模型加载塞进 DAG 的空闲时段，延迟最高降到十分之一，内存还省九成，做推理服务的人可以看看。