13:55
官方账号vLLM@vllm_project
官方账号vLLM@vllm_project精选
推荐理由：vLLM 被 NVIDIA 新框架 Molt 选为 rollout 主力，支持 1T 级 MoE 规模，想搞强化学习可以试试这套组合。
Molt
共 1 条相关 AI 资讯
7月14日
13:55
NVIDIA NeMo 团队发布了新的智能体优先强化学习框架 Molt，采用 vLLM（基于 Ray）作为 rollout 引擎。vLLM 支持快速异步服务，最高可扩展至 1T 级 MoE 规模，且易于集成，让上层的强化学习核心保持小巧和可修改。