主要来源vLLM
查看原文事件专题 · 多源确认
DeepSeek DSpark 投机解码原生集成 vLLM，性能提升显著
DeepSeek 的 DSpark 投机解码技术现已原生集成到 vLLM 推理框架中。DSpark 是一种半自回归草稿模型，通过非因果滑动窗口注意力并行生成多个 token，单次验证即可保持输出一致，减少解码步数。在 NVIDIA 8×B300 GPU 上，DeepSeek-V4-Pro-DSpark 在 batch size 1 时达到约 250 tokens/s，平均接受长度约 5，且在不同草稿深度下比 MTP 方法接受率高 12-42%。vLLM 通过复用 SparseMLA 后端、捕获完整草稿主干和采样循环到单一 CUDA graph，并支持前缀缓存和 FP8 KV cache。
当前结论
DeepSeek 把 DSpark 开源自带进 vLLM，跑 DeepSeek-V4 实测单卡 250 token/s，比 MTP 快 12-42%，想搞投机解码的可以试试。
9 个信源67° AI 热度最后更新 2026/7/2 12:30:27
证据链
相关来源 1LMSYS Org (SGLang)
查看原文相关来源 2IT之家
查看原文相关来源 3NVIDIA AI
查看原文相关来源 4marktechpost
查看原文相关来源 5Decoder
查看原文相关来源 6Jim Fan
查看原文相关来源 7Nous Research
查看原文相关来源 8AWS Machine Learning Blog
查看原文冲突核查
现有去重数据只说明这些来源讨论同一事件，不代表立场相同。当前没有结构化的支持或反驳证据，不自动推断冲突。