10:36
官方账号arXiv cs.LG@Hanfeng Lu, Tianyu Feng, Suyi Li, Yuheng Zhao, Wei Gao, Shaopan Xiong, Ju Huang, Siran Yang, Jiamang Wang, Lin Qu, Wei Wang
推荐理由：搞 VLM 后训练的人可以看看：Rollplex 把前缀计算塞进解码窗口，32 张 H800 上最高提速 2.24 倍。
Rollplex
共 1 条相关 AI 资讯
8月17日
10:36
Rollplex 是一个针对视觉语言模型强化学习后训练的运行时，它将参考评分和训练阶段分解，并把前缀计算移入 rollout 解码窗口。在 Qwen2.5-VL-32B 上，朴素共置需要约 165 GiB/GPU 显存，Rollplex 通过相位感知内存管理和并行感知权重共享解决显存与张量并行度差异。在 32 张 H800 GPU 上，相比串行共置获得 1.23–1.30 倍加速，相比同 GPU 预算下的分离式部署获得 1.57–2.24 倍加速，同时保持同步 RL 更新语义。