03:14
官方账号NVIDIA AI@NVIDIAAI
官方账号NVIDIA AI@NVIDIAAI精选
推荐理由：NVIDIA把大模型冷启动快了4倍，DeepSeek-V4 Pro启动只要2分钟，靠ModelExpress和RDMA，推理和训练都能提速。
NVIDIA ModelExpress
共 1 条相关 AI 资讯
7月25日
03:14
NVIDIA AI使用ModelExpress(MX)将DeepSeek-V4 Pro的启动时间从8分钟缩短至不到2分钟，靠的是GPU-to-GPU RDMA快速传输权重。MX是NVIDIA Dynamo中的权重分发与缓存管理服务，它复用内核缓存，并通过NIXL让推理worker直接从其他GPU获取更新权重，避免集中广播。这一方法同样能加速推理和强化学习后训练。