主要来源NVIDIA AI
查看原文事件专题 · 多源确认
NVIDIA ModelExpress将DeepSeek-V4 Pro启动时间降至2分钟内
NVIDIA AI使用ModelExpress(MX)将DeepSeek-V4 Pro的启动时间从8分钟缩短至不到2分钟，靠的是GPU-to-GPU RDMA快速传输权重。MX是NVIDIA Dynamo中的权重分发与缓存管理服务，它复用内核缓存，并通过NIXL让推理worker直接从其他GPU获取更新权重，避免集中广播。这一方法同样能加速推理和强化学习后训练。
当前结论
NVIDIA把大模型冷启动快了4倍，DeepSeek-V4 Pro启动只要2分钟，靠ModelExpress和RDMA，推理和训练都能提速。
5 个信源58° AI 热度最后更新 2026/7/24 19:01:40
证据链
相关来源 1Simon Willison’s Weblog
查看原文相关来源 2vLLM
查看原文相关来源 3LMSYS Org (SGLang)
查看原文相关来源 4arXiv: DeepSeek
查看原文冲突核查
现有去重数据只说明这些来源讨论同一事件，不代表立场相同。当前没有结构化的支持或反驳证据，不自动推断冲突。