DSpark

§ 01综述

DSpark 是由北京大学与 DeepSeek 联合开发并开源的推测解码（Speculative Decoding）推理加速框架，旨在大幅提升大型语言模型（LLM）的生成速度。它通过巧妙利用草稿模型与目标模型之间的协同，在保证输出质量的前提下显著降低延迟。

DSpark 近期进展

北大与DeepSeek开源DSpark，LLM推理效率大幅提升：该框架在DeepSeek V4模型上实现每用户生成速度提升60%-85%，突破了传统自回归解码的瓶颈。原文链接

DeepSeek DSpark 推测解码框架将生成速度提升80%：报道指出，DSpark 在标准基准测试中相对于多头预测（MTP）基线取得了显著加速，且无需额外硬件支持。原文链接

DeepSeek开源DSpark推测解码框架，加速V4生成60-85%：该框架目前已集成至 DeepSeek V4 API 中，上线后即被采用，实际效果与实验室测试一致。原文链接

当前焦点与观察点

DSpark 的开源引发了行业对推测解码技术实用性的广泛讨论。其核心优势在于：一是无需修改模型架构即可部署，兼容现有推理系统；二是加速效果稳定，尤其在长文本生成场景表现突出。然而，有开发者指出，DSpark 对草稿模型的质量高度敏感，若草稿模型与目标模型分布偏差过大，可能导致接受率下降，反而增加计算开销。此外，DSpark 的加速比在批量推理中有所缩减，这限制了其在高吞吐场景下的适用性。未来，该框架是否能够进一步降低内存占用并适配更多主流模型，将是其能否成为通用推理加速标准的关键。

§ 02相关报道10 条在档

§ 03邻近话题