DeepSeek-V4 相关 AI 资讯

7月11日

03:37

官方账号LMSYS Org (SGLang)@lmsysorg

精选73°

LMSYS 发布博客，介绍 DeepSeek-V4 Flash RL 在 AMD Instinct MI355X GPU 上使用 Miles 框架完成端到端训练。训练100+步后，log-prob gap 稳定在0.09，AIME-2024 pass@1 从0.39提升至0.49，pass@8 从0.53提升至0.67。采用 FP8 推演加 BF16 演员模型，支持数据类型感知在线权重更新。在 ROCm 上实现了稳定的 TP1/PP4/EP4 布局，无集体通信停顿。混合注意力、mHC 混合和哈希路由 MoE 在 SGLang 和 Megatron 引擎间保持一致。

推荐理由：DeepSeek-V4 Flash RL 在 AMD 显卡上跑通了，训练结果还不错，AIME 分数涨了一截。想试试 AMD 平台搞 RL 训练可以看看这篇。

原文

7月7日

11:49

官方一手arXiv: DeepSeek@Xin Cheng, Xingkai Yu, Chenze Shao, Jiashi Li, Yunfan Xiong, Yi Qian, Jiaqi Zhu, Shirong Ma, Xiaokang Zhang, Jiasheng Ye, Qinyu Chen, Chengqi Deng, Jiping Yu, Damai Dai, Zhengyan Zhang, Yixuan Wei, Yixuan Tan, Wenkai Yang, Runxin Xu, Yu Wu, Zhean Xu, Xuanyu Wang, Muyang Chen, Rui Tian, Xiao Bi, Zhewen Hao, Shaoyuan Chen, Huanqi Cao, Wentao Zhang, Anyi Xu, Huishuai Zhang, Dongyan Zhao, Wenfeng Liang

76°

DSpark是一种新型投机解码框架，通过半自回归架构（并行骨干网络+轻量级顺序模块）保持草稿质量，缓解后缀衰减。它采用置信度调度验证，根据前缀存活概率和引擎吞吐量动态调整每轮验证长度。在离线多领域基准测试中，DSpark的接受长度显著优于现有自回归和平行草稿器。在DeepSeek-V4服务系统的真实用户流量下，相比生产基线MTP-1，DSpark在维持吞吐量不变时单用户生成速度提升60%至85%。DSpark还通过防止高并发下吞吐量严重退化，使服务系统达到了此前无法实现的性能层级。

AI模型 DSpark DeepSeek-V4 投机解码推理加速半自回归生成

推荐理由：DeepSeek-V4搞了个新框架DSpark，把生成和验证分开调度，用户实际体验加速60%到85%，还不会拖慢系统吞吐。

原文

02:05

官方账号LMSYS Org (SGLang)@lmsysorg

精选

SGLang现支持DSpark算法，通过置信度驱动的变长验证优化推测解码。与传统验证所有候选token不同，DSpark仅验证高置信度token，在批大小1-256的DeepSeek-V4-Flash上实现最佳吞吐延迟权衡，优于MTP和非推测解码方案。高并发下动态调度相比固定预算带来约20%吞吐提升。使用融合内核和零开销调度后，DeepSeek-V4-Pro在B300上达到383.7 tok/s。

AI模型 SGLang DSpark DeepSeek-V4 推理模型推测解码

推荐理由：SGLang加入DSpark后，高并发场景下吞吐能提升20%，在DeepSeek-V4上实测383.7 tok/s，推理优化党可以试试。

原文

7月6日

10:12

10:12IT之家（博客/媒体）

DeepSeek 发布了开源 AI 编程助手 Deep Code，专为 DeepSeek-V4 系列模型适配。该工具支持深度思考和推理强度控制，并具备 Agent Skills。截至最新版本 v0.1.31，它提供终端 CLI 和 VS Code 插件两种使用方式。Deep Code 能结合项目上下文保存会话记录，支持读取文件、修改代码和执行命令，实现连续协作。

AI产品 DeepSeek Deep Code DeepSeek-V4 编程助手开源

推荐理由：DeepSeek 出了个叫 Deep Code 的开源编程助手，专门搭配 V4 模型用，能记对话续任务，改代码跑命令一气呵成。

原文

7月3日

21:06

21:06IT之家（博客/媒体）

72°

腾讯云宣布 DeepSeek-V4 正式版原厂直供模型将于 2026 年 7 月中旬在 TokenHub 和智能体开发平台上线。腾讯云同步引入峰谷定价机制，高峰时段为每日 9:00-12:00 和 14:00-18:00。DeepSeek-V4-Pro 推理输出高峰定价 12 元/百万 tokens，平时 6 元；DeepSeek-V4-Flash 高峰 4 元，平时 2 元。Token Plan 企业版积分抵扣规则也随峰谷调整，缓存命中输入抵扣量在 Pro 版为 2.5 积分（平时）与 5 积分（高峰）每百万 tokens。

AI产品 DeepSeek-V4 腾讯云 TokenHub DeepSeek-V4-Pro DeepSeek-V4-Flash API定价

推荐理由：腾讯云上了 DeepSeek-V4 原厂版，7 月中旬就能用，价格分峰谷，白天贵一倍，晚上便宜，有 Pro 和 Flash 两个版本可选。

原文

7月1日

12:08

官方账号vLLM@vllm_project

78°

vLLM v0.24.0 发布，包含571次提交和256位贡献者（77位新贡献者）。新增 MiniMax-M3 模型支持，包括 FP8/MXFP4 精度和 AMD 调优。DeepSeek-V4 集成 FlashInfer 稀疏索引缓存和 prefill chunk-planning，并支持 SM120。Model Runner V2 默认处理量化模型，引入统一流式解析器引擎，支持工具调用与推理，另有 DiffusionGemma、DeepEP v2 和 Rust 前端更新。

AI产品 vLLM MiniMax-M3 DeepSeek-V4 推理引擎

推荐理由：vLLM新版本来了！支持MiniMax-M3和DeepSeek-V4，还有新解析器和量化模型处理，推理效率更高。

原文

6月29日

00:21

berryxia@berryxia

精选73°

DeepSeek开源了DSpark投机解码框架，用于推理优化。DSpark通过并行backbone加顺序Markov head解决传统投机解码的后缀衰减问题，并引入置信度调度和负载感知调度器。在DeepSeek-V4生产环境中，单用户生成速度比MTP-1基线快60-85%，不同场景吞吐提升1.5x到5x。开源内容包括DeepSeek-V4-Pro-DSpark和DeepSeek-V4-Flash-DSpark模型checkpoint以及MIT协议的DeepSpec训练代码。

AI模型 DeepSeek DSpark DeepSeek-V4 投机解码推理优化

推荐理由：DeepSeek开源了DSpark框架，能让你的V4模型推理提速60%以上，且不影响质量。它解决了投机解码在真实部署中的难题，已经稳定跑在生产环境。

原文

6月28日

01:07

官方一手marktechpost@Asif Razzaq

79°

DeepSeek开源了DSpark框架，通过将草稿模块附加到现有DeepSeek-V4权重上实现推测解码。它结合并行草稿骨干和轻量级马尔可夫头来减少后缀衰减，并加入基于置信度的调度验证，根据实时GPU负载调整检查token数量。离线测试中，接受长度相比DFlash和Eagle3提升16-31%；生产环境中每个用户生成速度比MTP-1基线提升57-85%，且无损。训练代码DeepSpec以MIT许可证开源。

AI模型 DSpark DeepSeek-V4 DeepSeek 推测解码推理加速

推荐理由：DeepSeek搞了个DSpark，让V4推理速度翻倍，开源还无损，适合高并发场景。

原文

6月26日

10:16

官方一手arXiv: DeepSeek@Luxi Lin, Shuang Peng, Rui Ma, Junhao Hua, Shuwei Fan, Zhengda Qin, Qiang Wang, Hongjian Sun, Fangmin Chen, Songwei Liu

HyperDFlash是一种针对DeepSeek-V4多超连接架构的块并行推测解码框架。它通过预折叠残差状态保持多路径结构，并用门控残差缩减器将参数减少三个数量级。同时引入KL蒸馏损失正则化LM-head预测。在数学推理、代码合成和对话基准上，HyperDFlash的平均接受长度和解码加速比均优于原生MTP和DFlash基线。

AI模型 HyperDFlash DeepSeek-V4 MTP DFlash 推测解码

推荐理由：DeepSeek-V4新出的HyperDFlash框架，用门控缩减和蒸馏让推测解码提速，比MTP和DFlash都厉害。

原文

6月24日

01:02

官方账号LMSYS Org (SGLang)@lmsysorg

79°

与NVIDIA合作，在GB300上使用SGLang服务DeepSeek-V4，实现5倍吞吐量提升（~2,200→~11,200 tok/s/GPU，交互性~50 tok/s/user）。借助MTP，在80 tok/s/user交互性下吞吐再提升2.6倍。Blackwell Ultra聚合模式下30 tok/s/user时吞吐提升2.91倍，峰值无MTP吞吐提升超6倍。采用W4A4 MegaMoE量化（MXFP4）且精度损失可忽略。单个FP8-einsum修复将MTP接受率从0.57提至0.70。

AI模型 DeepSeek-V4 GB300 SGLang 推理优化 NVIDIA

推荐理由：想用SGLang在GB300上榨干DeepSeek-V4？NVIDIA合作实测，吞吐翻5倍，交互延迟不变，MTP和量化细节全公开。

原文

6月16日

20:16

官方账号vLLM@vllm_project

精选73°

vLLM v0.23.0 包含 408 次提交，来自 200 位贡献者（63 位新贡献者）。主要亮点：DeepSeek-V4 在多个后端上成熟，引入 TRTLLM-gen attention 内核、与 V3.2 解耦的稀疏 MLA 以及用于 Mega-MoE 的 EPLB 调度。Model Runner V2 现已成为 Llama 和 Mistral 稠密模型的默认运行器。新增 Gemma 4 Unified（无编码器）及 MTP 支持。还提供了多层级 KV 缓存卸载（含对象存储层）和统一的推理与工具调用解析器。

AI产品 vLLM DeepSeek-V4 Llama Gemma 4 推理引擎

推荐理由：vLLM v0.23.0 大更新，DeepSeek-V4 和 Llama 用户值得升级，新的 KV 缓存卸载能省显存，推理与工具调用解析也更顺了。

原文

17:27

17:27IT之家（博客/媒体）

腾讯云公告，DeepSeek-V3.2模型将于2026年7月16日00:00下线，届时不再提供接入服务。未迁移用户将由系统自动切换至DeepSeek最新模型。官方推荐迁移至能力更优的DeepSeek-V4系列模型。此前6月3日腾讯云已下调DeepSeek-V4系列价格，其中V4-Pro推理输入与输出价格降幅达75%，缓存命中价格降幅达97.5%，V4-Flash缓存命中价格降幅达90%。

行业腾讯云 DeepSeek-V3.2 DeepSeek-V4 模型迁移 API服务

推荐理由：腾讯云要停用DeepSeek-V3.2了，赶紧迁移到V4，价格还降了75%。

原文

6月9日

10:32

官方一手arXiv: DeepSeek@Yan Wang, Qifan Zhang, Jiachen Yu, Tian Liang, Dongyang Ma, Xiang Hu, Zibo Lin, Chunyang Li, Zhichao Wang, Jia Li, Yujiu Yang, Haitao Mi, Dong Yu

精选72°

FlashMemory-DeepSeek-V4 提出了一种名为 Lookahead Sparse Attention (LSA) 的新型推理范式，通过神经记忆索引器预测未来上下文需求，仅保留关键 KV 块在 GPU 内存中。该架构采用解耦训练策略，将索引器作为独立双编码器训练，无需加载主模型。在 LongBench-v2、LongMemEval 等长上下文评测中，LSA 将物理 KV 缓存压缩至全上下文基线的 13.5%，同时下游准确率平均提升 0.6%。在 50 万 token 极端长度下，物理 KV 缓存开销降低超过 90%，且不损害模型核心推理能力。

论文稀疏注意力长上下文 KV缓存压缩 DeepSeek-V4 推理效率

推荐理由：LSA 解决了超长上下文推理的 GPU 内存瓶颈，做长文档分析或大规模序列建模的团队可以直接参考其稀疏注意力方案，显著降低部署成本。

原文

6月3日

00:15

00:15IT之家（博客/媒体）

腾讯云智能体开发平台宣布自2026年6月3日起，对DeepSeek-V4系列模型进行价格下调。其中DeepSeek-V4-Pro模型的推理输入与输出价格降幅达75%，缓存命中价格降幅高达97.5%；DeepSeek-V4-Flash模型的缓存命中价格降幅达90%。该系列模型总参数达1.6万亿，采用混合专家架构，原生支持100万Token上下文长度。此次降价是腾讯云在平台接入层面的进一步调整，此前DeepSeek官方已于5月23日宣布V4-Pro API永久降价。

AI产品腾讯云 DeepSeek-V4 模型降价智能体 API

推荐理由：腾讯云大幅降低DeepSeek-V4系列模型调用成本，做AI应用开发或智能体集成的团队可以直接降低推理成本，缓存命中价格降幅高达97.5%，高频调用场景尤其划算，建议开发者抓紧调整预算。

原文