DeepSeek-V4 相关 AI 资讯

8月18日

10:23

官方一手arXiv: DeepSeek@Ziheng Qin, Yaxin Lu, Zhangyang Atlas Wang, Kai Wang

精选

StateM 是一个不修改模型权重的 agent 运行时，通过状态管理和可恢复流程提升执行系统。在 Terminal-Bench 2.1 上，StateM 将 GPT-5.5 xhigh 从 83.1% 提到 92.1%，GPT-5.6 Sol xhigh 达到 95.3% 原始准确率，覆盖 445 次试验和全部 89 个任务。同一套 runbook 让 GPT-5.6 Luna 从 76.7% 升至 85.4%，超过 Sol xhigh 参考值 84.9%。用不到 38 美元的适配，DeepSeek-V4 Flash 从 82.7% 提高到 88.1%，在 88 任务核心集上到 89.1%，最终 API 花费约 15 美元，对比 GPT 参考的 574.68 美元。代码已开源在 github.com/henryqin1997/statem。

论文 StateM GPT-5.6 DeepSeek-V4

推荐理由：StateM 不改模型权重，光靠升级执行系统就把 GPT-5.6 在终端测试的准确率拉到 95.3%，成本只要 15 美元，值得看看它的思路。

原文

10:00

官方账号arXiv cs.AI@XinQi Wang, Jinwei Xiao, Sijia Cui, Hongming Zhang, Yanna Wang, Qingyang Zhang, Bo Xu

HyMem提出一种分层上下文管理框架，将智能体上下文按功能划分为规划、执行和推理等独立层。其隔离推理模块在完成复杂子任务时不把中间推理痕迹写入持久规划上下文，内存管理模块则通过结构化摘要保留任务进度。在GAIA和Browsecomp-plus基准上，使用DeepSeek-V4时，HyMem的Pass@1分别达到66.7%和61.3%，超出最强基线6.1和4.7个百分点。HyMem有效控制推理上下文增长，使模型在长时复杂任务中保持准确度。

论文 HyMem DeepSeek-V4 GAIA

推荐理由：长任务乱？HyMem分层隔离上下文，用DeepSeek-V4在GAIA上比最强基线高6.1个百分点。

原文

8月11日

10:49

官方一手arXiv: DeepSeek@Matteo Grella

精选

PTQTP将LLM权重矩阵分解为两个三元平面，本研究首次将尺度比固定为3的约束引入其求解器，使分解坍缩为统一九级量化器。两个三元平面无损折叠为4位码平面，作为持久服务表示，磁盘字节、专家缓存和内核输入均为4.0625位/权重块。该方法应用于DeepSeek-V4-Flash-0731的284B-A13B MoE模型，在64GB笔记本上从MXFP4权重一次性量化并流式加载专家。与4.5位Q4_K基线相比，在5/5测试中匹配官方API（Q4_K为4/5），MMLU子集得分86对84，解码速度快6.7%，文件小9%。尽管权重重建误差和困惑度更高，但参考保真度无显著差异。

论文 PTQTP DeepSeek-V4 MoE

推荐理由：这篇论文把PTQTP量化器约束成九级格式，在DeepSeek-V4上做到和官方API几乎一样准，还快6.7%、文件小9%，适合搞MoE推理优化的朋友看。

原文

10:43

官方一手arXiv: DeepSeek@Issac Zhu, Hscos Zhang, Keith Jiang, Jack Li, Hugh Yin, Jason Zhao

精选

FlashBoot是SGLang上的权重加载子系统，针对MoE模型弹性部署中的延迟问题。它通过FabricArena连续内存布局和FlashLoad零拷贝批量传输，将单节点权重加载从20.1秒降至0.4秒，加速50倍。FlashClone利用远程映射替代NCCL初始化，将跨节点复制时间从10-110秒降至约10毫秒。在NVL72上测试DeepSeek-V4-Pro和DeepSeek-V4-Flash，并发机架级加载从87秒降至0.32秒，加速超270倍。

论文 FlashBoot SGLang DeepSeek-V4

事件专题

推荐理由：SGLang团队搞的FlashBoot，把大模型权重加载从20秒压到0.4秒，跨节点复制只要10毫秒。跑DeepSeek-V4系列，NVL72上实测数据，做弹性部署的值得看。

原文

8月7日

13:15

官方一手arXiv: DeepSeek@Fanzhe Wei, Li Liu, Ziyang Wang, Chenyu Wang

精选

论文提出覆盖四类注意力内存的统一运行时可观测性契约，用三个算子实例化到五个架构族的六种模型配置。契约将误差度量作为类型，度量不匹配时组合被拒绝，并自动降级为经验性证据。在1240万条读取回放和八路并发下验证风险账本，零违规。应用于DeepSeek-V4压缩KV原型时，定位到静默损坏的结构边界。

论文注意力内存可观测性 KV缓存

推荐理由：MetaSk团队发了个监控注意力内存的工具，能跨四类缓存统一检测，实测定位了DeepSeek-V4的静默损坏，还有Lean证明。

原文

7月23日

22:27

AK@_akhaliq

SLAI T-Rex团队提出一种全参数后训练方法，在昇腾SuperPOD集群上对DeepSeek-V4系列模型进行微调。该工作聚焦于高效利用昇腾硬件进行大规模后训练，并通过实验验证了方法的有效性。论文中可能涉及的具体性能提升或对比结果需参考原文。

论文 DeepSeek-V4 SLAI T-Rex Ascend SuperPOD

事件专题

推荐理由：这是关于DeepSeek-V4在国产昇腾硬件上的后训练论文，对研究国产算力生态的开发者有参考价值。

原文

10:00

官方一手arXiv: DeepSeek@Dongfang Li, Xiaodong Luo, Ruoyu Sun, Xuhui Chen, Linyuan Qiu, Jian Meng, Zhengxuan Lu, Yiting Wang, Yucheng Xie, Tao Guo, Tianxiang Fang, Jing Li, Sihang Chen, Shihao Hong, Chang Liu, Weihua Dai, Zirong Zeng, Ziwei Zhu, Zhuohan Wang, Zhengjun Yue, Igor Vasilyev, Min Liu, Weijian Sun, Xin Chen, Yingmeng Gao, Jinhua Zhou, Taolue Chen, Chenwei Wu, Dong Zhang, Wenlong Jin, Jinmin Xiang, Barkova Maria, Ushakov Anton, Xianfei Jin, Tian Ding, Zhihang Lin, Qian Chen, Linxin Yang, Mingzhe Yang, Bingwei Zhang, Hongzhang Yang, Fangxue Zhang, Shijun Qin, Jie Yu, Cuihua Hu, Tolstykh Vasiliy, Nosov Ivan, Abdullin Amir, Zhichen Zhou, Xin Zhang, Zhixiong Ning, Xutong Zhao, Junjie Huang, Jiajun Liu, Weiyan Kong, Zheng Zhang, Wenhan Luo, Lin Hu, Yangbo Guo, Li Zeng, Shihao Zeng, Baotian Hu, Min Zhang, Haizhou Li, Zhiquan Luo

精选

该论文针对万亿参数MoE模型DeepSeek-V4在Ascend NPU SuperPOD上的全参数后训练，提出分层优化框架，实现34.22%的模型算力利用率（MFU），较开源基线提升2.93倍。基于优化基础设施，论文构建了面向运筹学（OR）任务的连续预训练（CPT）和微调（SFT）工作流。SFT数据集包含10K高质量样本，涵盖4个任务类别和3种问题表示。专用模型DeepSeek-V4-Flash-OR在零样本Pass@1上达到71.81%，比GPT-5.4-Mini高3.98个百分点，比基础DeepSeek-V4-Flash高11.27个百分点。

论文 DeepSeek-V4 Ascend SuperPOD SLAI T-Rex

推荐理由：这篇论文展示了如何在华为Ascend芯片上高效后训练万亿参数模型，并且通过运筹学专用微调，在特定任务上超越了GPT-5.4-Mini。

原文

7月11日

03:37

官方账号LMSYS Org (SGLang)@lmsysorg

精选73°

LMSYS 发布博客，介绍 DeepSeek-V4 Flash RL 在 AMD Instinct MI355X GPU 上使用 Miles 框架完成端到端训练。训练100+步后，log-prob gap 稳定在0.09，AIME-2024 pass@1 从0.39提升至0.49，pass@8 从0.53提升至0.67。采用 FP8 推演加 BF16 演员模型，支持数据类型感知在线权重更新。在 ROCm 上实现了稳定的 TP1/PP4/EP4 布局，无集体通信停顿。混合注意力、mHC 混合和哈希路由 MoE 在 SGLang 和 Megatron 引擎间保持一致。

AI模型 DeepSeek-V4 AMD ROCm

推荐理由：DeepSeek-V4 Flash RL 在 AMD 显卡上跑通了，训练结果还不错，AIME 分数涨了一截。想试试 AMD 平台搞 RL 训练可以看看这篇。

原文

7月7日

11:49

官方一手arXiv: DeepSeek@Xin Cheng, Xingkai Yu, Chenze Shao, Jiashi Li, Yunfan Xiong, Yi Qian, Jiaqi Zhu, Shirong Ma, Xiaokang Zhang, Jiasheng Ye, Qinyu Chen, Chengqi Deng, Jiping Yu, Damai Dai, Zhengyan Zhang, Yixuan Wei, Yixuan Tan, Wenkai Yang, Runxin Xu, Yu Wu, Zhean Xu, Xuanyu Wang, Muyang Chen, Rui Tian, Xiao Bi, Zhewen Hao, Shaoyuan Chen, Huanqi Cao, Wentao Zhang, Anyi Xu, Huishuai Zhang, Dongyan Zhao, Wenfeng Liang

76°

DSpark是一种新型投机解码框架，通过半自回归架构（并行骨干网络+轻量级顺序模块）保持草稿质量，缓解后缀衰减。它采用置信度调度验证，根据前缀存活概率和引擎吞吐量动态调整每轮验证长度。在离线多领域基准测试中，DSpark的接受长度显著优于现有自回归和平行草稿器。在DeepSeek-V4服务系统的真实用户流量下，相比生产基线MTP-1，DSpark在维持吞吐量不变时单用户生成速度提升60%至85%。DSpark还通过防止高并发下吞吐量严重退化，使服务系统达到了此前无法实现的性能层级。

AI模型 DSpark DeepSeek-V4 投机解码

推荐理由：DeepSeek-V4搞了个新框架DSpark，把生成和验证分开调度，用户实际体验加速60%到85%，还不会拖慢系统吞吐。

原文

02:05

官方账号LMSYS Org (SGLang)@lmsysorg

精选

SGLang现支持DSpark算法，通过置信度驱动的变长验证优化推测解码。与传统验证所有候选token不同，DSpark仅验证高置信度token，在批大小1-256的DeepSeek-V4-Flash上实现最佳吞吐延迟权衡，优于MTP和非推测解码方案。高并发下动态调度相比固定预算带来约20%吞吐提升。使用融合内核和零开销调度后，DeepSeek-V4-Pro在B300上达到383.7 tok/s。

AI模型 SGLang DSpark DeepSeek-V4

事件专题

推荐理由：SGLang加入DSpark后，高并发场景下吞吐能提升20%，在DeepSeek-V4上实测383.7 tok/s，推理优化党可以试试。

原文

7月6日

10:12

10:12IT之家（博客/媒体）

DeepSeek 发布了开源 AI 编程助手 Deep Code，专为 DeepSeek-V4 系列模型适配。该工具支持深度思考和推理强度控制，并具备 Agent Skills。截至最新版本 v0.1.31，它提供终端 CLI 和 VS Code 插件两种使用方式。Deep Code 能结合项目上下文保存会话记录，支持读取文件、修改代码和执行命令，实现连续协作。

AI产品 DeepSeek Deep Code DeepSeek-V4

推荐理由：DeepSeek 出了个叫 Deep Code 的开源编程助手，专门搭配 V4 模型用，能记对话续任务，改代码跑命令一气呵成。

原文

7月3日

21:06

21:06IT之家（博客/媒体）

72°

腾讯云宣布 DeepSeek-V4 正式版原厂直供模型将于 2026 年 7 月中旬在 TokenHub 和智能体开发平台上线。腾讯云同步引入峰谷定价机制，高峰时段为每日 9:00-12:00 和 14:00-18:00。DeepSeek-V4-Pro 推理输出高峰定价 12 元/百万 tokens，平时 6 元；DeepSeek-V4-Flash 高峰 4 元，平时 2 元。Token Plan 企业版积分抵扣规则也随峰谷调整，缓存命中输入抵扣量在 Pro 版为 2.5 积分（平时）与 5 积分（高峰）每百万 tokens。

AI产品 DeepSeek-V4 腾讯云 TokenHub

事件专题

推荐理由：腾讯云上了 DeepSeek-V4 原厂版，7 月中旬就能用，价格分峰谷，白天贵一倍，晚上便宜，有 Pro 和 Flash 两个版本可选。

原文

7月1日

12:08

官方账号vLLM@vllm_project

78°

vLLM v0.24.0 发布，包含571次提交和256位贡献者（77位新贡献者）。新增 MiniMax-M3 模型支持，包括 FP8/MXFP4 精度和 AMD 调优。DeepSeek-V4 集成 FlashInfer 稀疏索引缓存和 prefill chunk-planning，并支持 SM120。Model Runner V2 默认处理量化模型，引入统一流式解析器引擎，支持工具调用与推理，另有 DiffusionGemma、DeepEP v2 和 Rust 前端更新。

AI产品 vLLM MiniMax-M3 DeepSeek-V4

事件专题

推荐理由：vLLM新版本来了！支持MiniMax-M3和DeepSeek-V4，还有新解析器和量化模型处理，推理效率更高。

原文

6月29日

00:21

berryxia@berryxia

精选73°

DeepSeek开源了DSpark投机解码框架，用于推理优化。DSpark通过并行backbone加顺序Markov head解决传统投机解码的后缀衰减问题，并引入置信度调度和负载感知调度器。在DeepSeek-V4生产环境中，单用户生成速度比MTP-1基线快60-85%，不同场景吞吐提升1.5x到5x。开源内容包括DeepSeek-V4-Pro-DSpark和DeepSeek-V4-Flash-DSpark模型checkpoint以及MIT协议的DeepSpec训练代码。

AI模型 DeepSeek DSpark DeepSeek-V4

推荐理由：DeepSeek开源了DSpark框架，能让你的V4模型推理提速60%以上，且不影响质量。它解决了投机解码在真实部署中的难题，已经稳定跑在生产环境。

原文

6月28日

01:07

官方一手marktechpost@Asif Razzaq

79°

DeepSeek开源了DSpark框架，通过将草稿模块附加到现有DeepSeek-V4权重上实现推测解码。它结合并行草稿骨干和轻量级马尔可夫头来减少后缀衰减，并加入基于置信度的调度验证，根据实时GPU负载调整检查token数量。离线测试中，接受长度相比DFlash和Eagle3提升16-31%；生产环境中每个用户生成速度比MTP-1基线提升57-85%，且无损。训练代码DeepSpec以MIT许可证开源。

AI模型 DSpark DeepSeek-V4 DeepSeek

事件专题

推荐理由：DeepSeek搞了个DSpark，让V4推理速度翻倍，开源还无损，适合高并发场景。

原文

6月26日

10:16

官方一手arXiv: DeepSeek@Luxi Lin, Shuang Peng, Rui Ma, Junhao Hua, Shuwei Fan, Zhengda Qin, Qiang Wang, Hongjian Sun, Fangmin Chen, Songwei Liu

HyperDFlash是一种针对DeepSeek-V4多超连接架构的块并行推测解码框架。它通过预折叠残差状态保持多路径结构，并用门控残差缩减器将参数减少三个数量级。同时引入KL蒸馏损失正则化LM-head预测。在数学推理、代码合成和对话基准上，HyperDFlash的平均接受长度和解码加速比均优于原生MTP和DFlash基线。

AI模型 HyperDFlash DeepSeek-V4 MTP

推荐理由：DeepSeek-V4新出的HyperDFlash框架，用门控缩减和蒸馏让推测解码提速，比MTP和DFlash都厉害。

原文

6月24日

01:02

官方账号LMSYS Org (SGLang)@lmsysorg

79°

与NVIDIA合作，在GB300上使用SGLang服务DeepSeek-V4，实现5倍吞吐量提升（~2,200→~11,200 tok/s/GPU，交互性~50 tok/s/user）。借助MTP，在80 tok/s/user交互性下吞吐再提升2.6倍。Blackwell Ultra聚合模式下30 tok/s/user时吞吐提升2.91倍，峰值无MTP吞吐提升超6倍。采用W4A4 MegaMoE量化（MXFP4）且精度损失可忽略。单个FP8-einsum修复将MTP接受率从0.57提至0.70。

AI模型 DeepSeek-V4 GB300 SGLang

事件专题

推荐理由：想用SGLang在GB300上榨干DeepSeek-V4？NVIDIA合作实测，吞吐翻5倍，交互延迟不变，MTP和量化细节全公开。

原文

6月16日

20:16

官方账号vLLM@vllm_project

精选73°

vLLM v0.23.0 包含 408 次提交，来自 200 位贡献者（63 位新贡献者）。主要亮点：DeepSeek-V4 在多个后端上成熟，引入 TRTLLM-gen attention 内核、与 V3.2 解耦的稀疏 MLA 以及用于 Mega-MoE 的 EPLB 调度。Model Runner V2 现已成为 Llama 和 Mistral 稠密模型的默认运行器。新增 Gemma 4 Unified（无编码器）及 MTP 支持。还提供了多层级 KV 缓存卸载（含对象存储层）和统一的推理与工具调用解析器。

AI产品 vLLM DeepSeek-V4 Llama

事件专题

推荐理由：vLLM v0.23.0 大更新，DeepSeek-V4 和 Llama 用户值得升级，新的 KV 缓存卸载能省显存，推理与工具调用解析也更顺了。

原文

17:27

17:27IT之家（博客/媒体）

腾讯云公告，DeepSeek-V3.2模型将于2026年7月16日00:00下线，届时不再提供接入服务。未迁移用户将由系统自动切换至DeepSeek最新模型。官方推荐迁移至能力更优的DeepSeek-V4系列模型。此前6月3日腾讯云已下调DeepSeek-V4系列价格，其中V4-Pro推理输入与输出价格降幅达75%，缓存命中价格降幅达97.5%，V4-Flash缓存命中价格降幅达90%。

行业腾讯云 DeepSeek-V3.2 DeepSeek-V4

事件专题

推荐理由：腾讯云要停用DeepSeek-V3.2了，赶紧迁移到V4，价格还降了75%。

原文

6月9日

10:32

官方一手arXiv: DeepSeek@Yan Wang, Qifan Zhang, Jiachen Yu, Tian Liang, Dongyang Ma, Xiang Hu, Zibo Lin, Chunyang Li, Zhichao Wang, Jia Li, Yujiu Yang, Haitao Mi, Dong Yu

精选72°

FlashMemory-DeepSeek-V4 提出了一种名为 Lookahead Sparse Attention (LSA) 的新型推理范式，通过神经记忆索引器预测未来上下文需求，仅保留关键 KV 块在 GPU 内存中。该架构采用解耦训练策略，将索引器作为独立双编码器训练，无需加载主模型。在 LongBench-v2、LongMemEval 等长上下文评测中，LSA 将物理 KV 缓存压缩至全上下文基线的 13.5%，同时下游准确率平均提升 0.6%。在 50 万 token 极端长度下，物理 KV 缓存开销降低超过 90%，且不损害模型核心推理能力。

论文稀疏注意力长上下文 KV缓存压缩

推荐理由：LSA 解决了超长上下文推理的 GPU 内存瓶颈，做长文档分析或大规模序列建模的团队可以直接参考其稀疏注意力方案，显著降低部署成本。

原文

6月3日

00:15

00:15IT之家（博客/媒体）

腾讯云智能体开发平台宣布自2026年6月3日起，对DeepSeek-V4系列模型进行价格下调。其中DeepSeek-V4-Pro模型的推理输入与输出价格降幅达75%，缓存命中价格降幅高达97.5%；DeepSeek-V4-Flash模型的缓存命中价格降幅达90%。该系列模型总参数达1.6万亿，采用混合专家架构，原生支持100万Token上下文长度。此次降价是腾讯云在平台接入层面的进一步调整，此前DeepSeek官方已于5月23日宣布V4-Pro API永久降价。

AI产品腾讯云 DeepSeek-V4 模型降价

事件专题

推荐理由：腾讯云大幅降低DeepSeek-V4系列模型调用成本，做AI应用开发或智能体集成的团队可以直接降低推理成本，缓存命中价格降幅高达97.5%，高频调用场景尤其划算，建议开发者抓紧调整预算。