主要来源IT之家
查看原文事件专题 · 单一信源
北大与DeepSeek开源DSpark推理加速框架,速度提升60%-85%
6月27日,北大与DeepSeek联合开源DSpark推理加速框架,已部署于DeepSeek-V4-Flash与V4-Pro预览版引擎。该框架相比单token推测解码基线MTP-1,在同等吞吐量下将单用户生成速度提升60%至85%。DSpark采用半自回归架构,在Qwen3-4B模型上平均接受长度比Eagle3提升约30.9%,比DFlash提升约16.3%。V4-Flash引擎实测中,80 token/s SLA下聚合吞吐量提升51%,120 token/s下提升661%。相关论文、训练代码及模型检查点已在GitHub DeepSpec项目开源。
当前结论
北大和DeepSeek开源了DSpark,能让高并发下大模型生成速度提升最多85%。想提速可以试试。
2 个信源76° AI 热度最后更新 2026/6/27 07:47:23
证据链
相关来源 1marktechpost
查看原文冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。