13:56
官方账号vLLM@vllm_project
官方账号vLLM@vllm_project精选76°
推荐理由：AMD给vLLM生态的RL训练框架vime加了ROCm支持，现在你的Qwen3-8B在MI355X上能跑到4100 tokens/gpu/s，训练和rollout的logprob很稳，还直接提供预构建容器，省去编译麻烦。
vime
共 1 条相关 AI 资讯
7月14日
13:56
AMD团队将ROCm支持引入vime，vime是vLLM生态的RL后训练框架，端到端RL后训练现在原生运行在AMD Instinct MI355X GPU上。vime使用vLLM作为rollout后端，在ROCm上继承完整vLLM栈，无需独立代码路径。AMD验证了pipeline并上游了ROCm修复，提供了预构建容器。支持GRPO训练、colocated和非colocated训练/rollout、Megatron-LM训练+vLLM rollout、Qwen3密集和MoE模型。在MI355X上，Qwen3-8B达到约4100 tokens/gpu/s，训练-rollout logprob差异低且稳定。