Qwen3-14B 相关 AI 资讯 · AI 热点

8月17日

10:21

10:21

官方账号arXiv cs.AI@Yuhao Zhan, Bingxiang He, Zecong Tang, Chaojun Xiao

PACE-Bench 是一个基于模拟器的基准测试，包含144个源到目标的物理适应对，覆盖6个物理域。每个任务要求代理在环境突变后，通过代码演进将源码改造成目标代码。在10种自进化方法的对比中，Reflexion + Qwen3-14B 在完整基准上仅成功35.9%，而 GPT-5.5 在 Statics 子集上达到66.7%的成功率。结果显示，基于模拟器的反馈修正比未经验证的自修订更可靠，但整体性能尚未饱和。

论文 PACE-Bench GPT-5.5 Qwen3-14B

推荐理由：想看看AI在规则变了之后能不能自己改代码？PACE-Bench 专门测这个，目前最强的 GPT-5.5 也只解决了 Statics 子集的三分之二，离满分还远得很。

8月5日

10:06

10:06

官方一手arXiv: DeepSeek@Yuannuo Feng, Zegang Peng, Yuxin Xie, Yubing Ye, Yizhe Chen, Wenshuai Yao, Wenyong Zhou, Wang Kang

Approximate Speculative Decoding（ASD）是一种免训练的投机解码验证器，用预算化的最长前缀选择替代逐位截断，在保留目标贪心后缀的同时接受部分不匹配token。在Qwen3-14B+DSpark-14B的七项任务上，ASD相比严格验证平均提升7.78%吞吐，区间为3.05%到15.26%。在FP4到FP8兼容设置下，DeepSeek-V4-Flash（284B）搭配DSpark时，GSM8K和MATH-500上的验证方接受率提高约10%到16%。该方法无需新草稿模型或微调，预算为零时精确退化为标准贪心验证，代码已开源。

论文 ASD 投机解码 Qwen3-14B

推荐理由：这篇论文搞了个叫ASD的投机解码改进，不用重新训练就能提速，实测吞吐最高涨15%，代码也开源了，跑推理的可以看看。

6月30日

13:53

13:53

官方账号arXiv cs.AI@Subramanyam Sahoo, Aman Chadha, Vinija Jain, Divya Chaudhary

论文在Qwen3-14B策略上采用DPO，设置三个保守度β（低、中、高），并在在线适应中使用3×Qwen3-1.7B奖励集成。在GSM8K基准上测量准确率，发现更高保守度单调增加奖励黑客损伤，Goodhart gap及其曲线下面积AUGC的Spearman ρ=1.0。机制分析表明，高β DPO压缩策略熵，导致响应多样性降低，但集成分歧增加且被更快利用。论文进一步拟合幂律曲线，确定了平衡对齐保真度和漏洞的最优保守度β*。

论文 Qwen3-14B DPO GSM8K

推荐理由：这篇论文用Qwen3-14B和DPO实验证明，离线训练越保守，在线适应越容易翻车，还在GSM8K上给出了最优保守度公式。做RLHF的值得一读。

6月9日

11:09

11:09

官方账号arXiv cs.LG@Yuling Shi, Caiqi Zhang, Yuexian Li, Haopeng Wang, Yeheng Chen, Nigel Collier, Xiaodong Gu

精选

大型语言模型越来越多地用于代码生成，但静默错误程序带来安全风险。现有不确定性估计方法多继承自自然语言，忽略了代码的三个独特特性：单个错误标记可破坏整个程序（标记脆弱性）、算法意图与具体实现可能不一致（意图-代码差距）、以及程序可执行。研究者提出三个正交不确定性轴：词汇（Top-K token熵）、算法（伪代码一致性）和功能（行为一致性）。在五个代码LLM上，三轴集成将平均AUROC从0.696提升至0.776（+8.1点），且单次Top-K token熵在Qwen3-14B上匹配最强多基线，成本降低3倍以上。这表明代码不确定性估计需要代码特定的设计。

论文代码生成不确定性估计 LLM

推荐理由：代码生成的不确定性评估长期被自然语言方法误导，这篇论文给出了三个正交维度，做代码LLM安全评估或部署的团队值得仔细看，能直接改进选择性预测和人工审查流程。