14:30arXiv cs.AI@Stephen Mell, David Mell, Konstantinos Kallas, Steve Zdancewic, Osbert Bastani精选复合AI应用(如用Python调用多个ML模型)的端到端延迟成为瓶颈,传统编译器无法优化外部组件调用。PopPy系统通过结合编译时分析和运行时调度,自动识别并并行化Python中调用外部组件的代码段。它解决了Python语言复杂性、动态分发和变量突变三大挑战,在真实复合AI应用中实现最高6.4倍加速。开发者只需少量标注即可获得并行化收益,且保持程序语义不变。论文复合AI应用并行计算Python优化系统/工具加速推荐理由:复合AI应用开发者终于有了一个无需重写代码就能加速的工具——PopPy自动找出并行机会,做多模型编排或自动化管道的团队值得一试。原文