DeepSeek V3 相关 AI 资讯 · AI 热点

8月18日

10:25

10:25

官方一手arXiv: DeepSeek@Changruo Zhao, Zujun Peng, Yu Tian, Yuting Liu, Yiyun Su, Huiying Zhu, Luyan Zhang, Heming Zeng

该论文将 LLM Text-to-SQL 领域的进展重组为排行榜聚合，并沿推理自主度轴划分出受限、上下文、迭代、智能体、推理内化五类生成方式。作者在 Spider 基准上做了案例研究，对比 8B 开源模型与 few-shot DeepSeek V3、GLM-4 基线，发现 Spider 成绩迁移到 BIRD 和 Spider 2.0 时不均衡。研究还指出自主性提升能增强鲁棒性但代价不小，CoT 收益集中在 Hard 和 Extra-Hard 查询上。论文发布了对应自主度轴的 Python 工具，供新方法直接接入排行榜。

论文 Text-to-SQL Spider DeepSeek V3

推荐理由：做 Text-to-SQL 的可以看看这份排行榜聚合方法，它把不同模型和推理方式按自主度归类，还给出了在 Spider、BIRD 上的实测对比，省得自己瞎比较。

6月27日

21:13

21:13

官方账号LMSYS Org (SGLang)@lmsysorg

71°

SGLang团队为DeepEP MoE引入两种调度时负载均衡器Waterfill和LPLB。Waterfill将共享专家工作分配到较轻的rank，在DeepSeek V3/R1上带来+1.48%到+4.66%的性能提升，V4 Flash吞吐量从49,253 tok/s增至51,677 tok/s。LPLB优化冗余路由专家副本的流量分配，在red16/red32配置下取得+0.84%到+7.34%的提升。两种方法均不改变模型语义，保持推理精度。

AI产品 SGLang DeepEP DeepSeek V3

推荐理由：SGLang给DeepSeek模型加了两个新负载均衡器，跑DeepSeek V3/R1速度能快最多7%，而且不改精度，想加速推理的可以试试。