prime-rl 相关 AI 资讯 · AI 热点

7月24日

03:07

03:07

官方账号vLLM@vllm_project

精选

PrimeIntellect 发布了 prime-rl 0.6.0，在 vLLM 上运行万亿级 agentic RL 推理。该版本采用 FP8 量化、专家并行、prefill/decode 分离以及 KV 缓存卸载（原生+Mooncake），并使用 vllm-router。在 28 个 H200 节点上，以 131k 序列长度训练 GLM-5 执行 SWE 任务，每步耗时不到 5 分钟。@m_sirovatka 将在 vLLM Office Hours 中深入讲解。

AI模型 PrimeIntellect prime-rl vLLM

推荐理由：PrimeIntellect 用 vLLM 把 agentic RL 搞到万亿参数级了，FP8 加专家并行，28 个 H200 节点跑 131k 序列，每步不到 5 分钟，训练 GLM-5 做 SWE 任务。

6月23日

15:27

15:27

官方一手marktechpost@Asif Razzaq

精选

Prime Intellect 发布了 prime-rl 0.6.0，这是一个用于异步强化学习的开源框架，支持训练万亿参数规模的 Mixture-of-Experts (MoE) 模型。该框架在 SWE 编程任务上训练了 GLM-5 模型，序列长度达到 131k，单步训练时间低于 5 分钟，并实现了 256 个并行 rollout。所有这些性能建立在 28 个 NVIDIA H200 节点上，优化技术包括 FP8 推理、Wide Expert Parallelism、预填充/解码分离以及 3-D 并行（FSDP、EP、CP）。

AI产品 prime-rl GLM-5 Prime Intellect

推荐理由：Prime Intellect 新开源的 prime-rl 0.6.0，专为训练万亿参数 MoE 模型的强化学习设计。他们在 SWE 任务上用 GLM-5 跑到 131k 序列长度，速度还很快，想了解大规模 RL 训练优化的可以看看。