DeepSpec是DeepSeek团队为加速大模型推理而提出的投机解码框架DSpark的统称，它利用投机采样技术让小型草稿模型预测输出，再由大模型验证，从而在不影响生成质量的前提下显著提升吞吐量。该框架近日以开源形式发布，并已集成至DeepSeek V4中。
DeepSpec近期进展
DeepSpec当前焦点与观察点
当前DeepSpec的关键优势在于其相对多令牌预测（MTP）方法额外提升60%-85%的每用户生成速度，且完全开源。观察点包括：该框架对硬件和显存的需求是否会在实际部署中成为瓶颈；它与现有推理引擎（如vLLM、TensorRT-LLM）的兼容性；以及开源社区能否快速跟进优化。此外，投机解码的“草稿-验证”机制本身对长文本生成和特定任务（如代码、数学）的加速比差异，也是后续衡量的重点。