精选理由
DeepSeek 刚发了 DSpark，跑大模型生成能快 85%，还是即插即用的。搞推理加速的朋友可以关注。
DeepSeek 在获 70 亿美元融资后发布首篇论文，提出 DSpark 推测解码框架，在无需额外训练的情况下将大模型生成速度提升 85%。该框架通过轻量级草稿模型配合验证机制加速推理，在多个基准测试中达到与原始模型相当的质量。DSpark 支持即插即用，可适配现有 DeepSeek 系列模型，显著降低延迟。
AI 翻译 · 中文
DeepSeek 在获 70 亿美元融资后发布首篇论文，提出 DSpark 推测解码框架，在无需额外训练的情况下将大模型生成速度提升 85%。该框架通过轻量级草稿模型配合验证机制加速推理，在多个基准测试中达到与原始模型相当的质量。DSpark 支持即插即用，可适配现有 DeepSeek 系列模型，显著降低延迟。
DeepSeek releases DSpark speculative decoding framework, boosting generation speed by 85% in Liang Wenfeng's first paper after the company's $7B funding round.