Latest AI News & Industry Updates

Papers11:54

Chinese contentQwen3模型家族实体匹配研究：架构、变体与规模的影响

想用LLM做实体匹配？这篇论文用Qwen3对比了bi-encoder、cross-encoder和生成式三种架构，告诉你不同场景选什么最靠谱，还公开了代码和实验数据。

#Qwen3 #bi-encoder #cross-encoder #generative matcher

arXiv cs.LG@Zeyu Zhang et al. (5)Source

Papers10:58

Chinese content全局计算、本地物化：稀疏事件KV存储的记忆契约

论文用Qwen3-8B做实验，发现KV缓存里的事件行能独立保存计算视图，主动构造回答无关事件能让恢复率从6%跳到51%，对搞Agent记忆的人很有参考价值。

#Qwen3-8B #KV缓存 #记忆机制 #语义具体化

arXiv cs.AI@Zefeng Cai, Zerui CaiSource

Papers10:26

Chinese content在线策略蒸馏中结果混淆的局部监督

论文用实验数据揭示了一个反直觉现象：学生在模仿老师时，67%的token在“同意但失败”，说明局部蒸馏有盲区。做模型蒸馏的朋友可以看看这个诊断方法。

#Qwen3 #Qwen2.5 #知识蒸馏 #推理模型

arXiv cs.LG@Guoqing MaSource

Models11:39

Chinese contentTTEL：利用错误定位实现推理时扩展

TTEL能定位推理错误，只重算出错部分，省近一半计算量。Qwen3-8B在编程测试上成绩亮眼，值得关注。

#TTEL #Qwen3 #LiveCodeBench #AIME

arXiv cs.LG@Rajiv Shailesh Chitale et al. (5)Source

Papers11:32

Chinese content视觉对比自蒸馏VCSD：无需外部教师的新方法

这篇论文提出了VCSD，不需要外部老师就能让多模态模型自己教自己，在Qwen3-VL上几个规模都涨了4-5个点，而且不增加推理成本。

#VCSD #Qwen3-VL #Qwen3.5 #ViRL39K

Event

arXiv cs.AI@Yijun Liang et al. (7)2 sourcesSource

Papers09:22

Chinese content工作流局部机制学习：结构化Agent技能的归因修复与知识复用

这篇论文提出了WML方法，能精准定位Agent工作流失败节点并复用外部技能知识，在SpreadsheetBench和Compiler-Supported50上表现亮眼，比直接SkillAgent省不少token。

#DeepSeek #Qwen3.6-Flash #SpreadsheetBench #智能体

arXiv: DeepSeek@Zibin Lin et al. (6)Source

Papers11:23

Chinese content编排开源小语言模型在恶意软件分析中超越单个大语言模型

别总盯着大模型花钱了，用Qwen3-4B和Foundation-Sec-8B组队就能干翻GPT，这篇论文给了具体方法和数据。

#Qwen3-4B #Foundation-Sec-8B #CyberSecEval #恶意软件分析

arXiv cs.AI@Adel ElZemity et al. (3)Source

Papers09:56

Chinese content强化学习提升大语言模型选择性采纳污染检索证据

Qwen3.5用强化学习学会在污染检索中挑有用证据，成功率从22%提到26%，还不掉通用分。

#SelectBench #DAPO #Qwen3.5 #RAG

Event

arXiv: DeepSeek@Yanyu Chen et al. (5)2 sourcesSource

Models12:09

Chinese contentISO：面向RLVR的等谱优化框架，加速模型微调

如果厌倦了RLVR微调慢慢跑，试试ISO：只用1/3的训练步数就能达到同等效果，Qwen3-8B上实测有效，代码开源。

#ISO #RLVR #Qwen3 #优化框架

arXiv cs.LG@Hanqing Zhu et al. (11)Source

Papers12:32

Chinese content压力下的逻辑判断：用学习软前缀诊断三段论稳定性

这篇论文用软前缀测试了三段论推理，发现模型答案很容易被带偏，Qwen和Gemma的稳定性差异很大，值得做推理研究的读一下。

#软前缀 #三段论推理 #Qwen #Gemma

arXiv cs.AI@Brian K ChenSource

Models BuildersMulti-source11:57

Chinese contentFlashRT 智能体框架实现实时多模态应用高效部署

部署多模态模型时延迟高吞吐低？FlashRT 让智能体自动优化，实测延时降 70 倍，吞吐升 3.6 倍，AMD 平台效果尤其猛。

#FlashRT #NVIDIA #AMD #推理优化

Event

arXiv cs.LG@Krish Agarwal et al. (6)8 sourcesSource

PapersSelected09:47

Chinese contentThe Geometry of Semantic Space：Transformer架构的连续几何框架

用微分几何重新理解Transformer，给出了注意力机制是薛定谔桥、SGD是违反细致平衡的伊藤扩散等新视角，并有大模型实测验证。

#Transformer架构 #微分几何 #Qwen3 #LLaMA-3.1

arXiv cs.LG@Zhihua LiangSource

Papers09:31

Chinese contentAnthroDial：面向拟人对话的闭环生成、评估与偏好对齐框架

这篇论文把拟人对话的生成、评测和奖励对齐做成闭环，Qwen3.6-27B微调后严格准确率39%，比基线高一大截。

#AnthroDial #Qwen #GRPO #拟人对话

arXiv cs.AI@Wentao Liu et al. (7)Source

Papers09:18

Chinese content模型合并 vs 联合多任务强化学习：任务向量几何分析

这篇论文用Qwen3-8B做了AppWorld上的合并vs联合训练对比，发现合并效果不输联合训练，而且解释了为什么不同合并方法结果差不多。

#Qwen3-8B #AppWorld #TIES #RAM+

arXiv cs.AI@S. Aaron McClendonSource

Models09:41

Chinese contentHGA：在16GB显存上实现16384令牌长上下文微调

Qwen3-8B长上下文微调显存不够？HGA方案在16GB卡上跑16384令牌，比密集训练省显存还快一点，代码正在路上。

#Qwen3-8B #HGA #长上下文 #QLoRA

arXiv cs.AI@Vladimir Fedosov et al. (4)Source

Papers11:20

Chinese contentTRACE：通过信用估计实现长程智能体回合级奖励分配

想解决Agent长程任务奖励稀疏问题？看TRACE方法，无需额外批评器，用TD变化给每步打分，Qwen3在BrowseComp-Plus上从7分直接跳到35分。

#TRACE #Qwen3 #BrowseComp-Plus #信用分配

arXiv cs.LG@Leitian Tao et al. (8)Source

Papers10:48

Chinese contentPezego-HITL：面向加纳农业扩展的策略导向大语言模型架构

这篇论文搞了个P-EVAL框架来评估农业AI的安全性，Pezego-HITL架构在加纳测试，延迟降了55%，还挺靠谱的。

#Pezego-HITL #P-EVAL #Qwen3.5-9B-DeepSeek-V4-Flash #农业扩展

Event

arXiv: DeepSeek@Shunbao Li et al. (8)2 sourcesSource

PapersSelected09:46

Chinese contentEcoSpec：成本感知的MoE模型投机解码加速方法

这篇论文提出EcoSpec，在DeepSeek-V3.1等MoE模型上通过成本感知投机解码最高提速1.62倍，值得关注。

#EcoSpec #MoE #投机解码 #推理加速

arXiv: DeepSeek@Jincheng Xie et al. (7)Source

Papers09:22

Chinese contentJADR协议：通过J-Space比较不同模型与量化级别的危险识别

JADR协议能从模型内部直接测出危险识别能力，不用外部裁判，还能对比Qwen3和Gemma 2在不同量化下的安全表现，挺实用。

#Qwen3 #Gemma 2 #JADR #J-Space

arXiv cs.AI@Roman Prosvirnin et al. (4)Source

Models US vs China09:11

Chinese content用大语言模型学习化学反应机理推理，Qwen3微调模型超越专用FlowER

Qwen3微调模型在化学机理推理上直接击败了专用FlowER，准确率从5.1%提升到8.3%，化学和AI交叉领域值得一看。

#Qwen3 #FlowER #化学反应 #推理模型

arXiv cs.LG@Xingyu Dang et al. (4)Source

Papers09:59

Chinese contentSETA：为终端代理扩展训练环境

终端代理训练数据难找，SETA开源了4500+环境的RL数据集，Qwen3-8B训后Terminal-Bench拿到12%，顺带还让DeepSeek-V4涨了分，搞终端AI的别错过。

#SETA #Qwen3-8B #DeepSeek-V4-Flash #Terminal-Bench 2.0

arXiv cs.AI@Qijia Shen et al. (22)Source

Papers09:17

Chinese content测试时扩展对小视觉语言模型在多语言视觉选择题中的有效性研究

这篇论文告诉你，在小模型上用测试时扩展，关键是让模型把答案写出来，而不是复杂搜索。Qwen2.5-VL调参后性价比很高。

#Qwen2.5-VL-7B-Instruct #Qwen3.5-4B #EXAMS-V #测试时扩展

arXiv cs.LG@Spiros Baxevanakis, Peng-Jian YangSource

Papers09:57

Chinese contentProactive Memory Agent：长时任务的行为状态衰减干预方法

长时任务里AI老忘事？这篇提出主动记忆智能体，随跑随记关键信息，在Terminal-Bench上提升8.3pp，比被动记忆好用多了。

#Proactive Memory Agent #Terminal-Bench #τ²-Bench #Qwen3.5-27B

arXiv cs.AI@Yifan Wu et al. (8)Source

Papers09:46

Chinese content不同教师不同能力：用于结构化文本增强的亚10亿参数端侧蒸馏

这篇论文对比了蒸馏不同教师模型的效果，发现推理型教师擅长教写作质量，托管型管线擅长教标签多样性，对选哪种蒸馏方案做端侧部署很有参考价值。

#deepseek-r1 #Qwen3-0.6B #QLoRA #蒸馏

arXiv: DeepSeek@Vinay Kumar ChagantiSource

Papers10:12

Chinese contentAgon: 竞争性跨模型强化学习的隐式对手评分推理

Agon让两个模型互相打分比赛，推理能力直接翻倍，比GRPO强一倍，而且完全不需要人工标注过程标签。

#Agon #Qwen3 #Gemma 4 #推理模型

arXiv cs.LG@Vladislav BeliaevSource

PapersSelected09:54

Chinese contentAdaPrefix-GRPO：自适应前缀控制提升困难推理问题训练效果

这篇论文解决了GRPO训练时难问题学不到东西的痛点，用自适应前缀让模型在数学推理上准确率翻倍，而且模型越小效果越明显，值得做强化学习的人看看。

#AdaPrefix-GRPO #GRPO #Qwen3 #AIME

arXiv cs.LG@Vladislav BeliaevSource

Papers09:01

Chinese content自动CAD生成基础模型：LLMForge框架与97问题基准评估

这篇论文用97个机械设计问题系统测试了7个模型，LLMForge的两种批评机制各有优劣，VLM批评做到100%水密网格但旋转体仍有缺陷。

#LLMForge #IterTracer #Qwen2.5-VL-72B #CAD生成

arXiv: DeepSeek@J de Curtò et al. (3)Source

Papers11:41

Chinese content弱到强泛化通过Direct On-Policy Distillation

用弱模型训练强模型，Qwen3-1.7B在AIME 2024从48.3%飙到62.4%，只花4小时8卡A100。比直接RL还省，值得试试。

#Direct-OPD #Qwen3 #AIME 2024 #推理模型

arXiv cs.AI@Shiyuan Feng et al. (10)Source

Papers11:11

Chinese contentTREK: 蒸馏扩展探索，强化精炼优化

这篇论文给出了一个实用技巧：用蒸馏扩展支持域再强化学习，在数学和代理任务上都涨点明显，而且不需要改动模型结构。

#TREK #GRPO #蒸馏 #强化学习

arXiv cs.AI@Yuanda Xu et al. (13)Source

Models BuildersSelected11:54

Chinese contentPAW编程范式：4B编译器生成适配器，0.6B模型匹敌32B

PAW让模糊函数（如日志告警、修复JSON）不再依赖大模型API。用4B编译器一次编译，0.6B小模型就能跑出32B的效果，还省内存和算力。

#PAW #Qwen3 #FuzzyBench #推理模型

arXiv cs.AI@Wentao Zhang et al. (6)Source

Models11:52

Chinese contentReContext：递归证据重放提升长上下文推理

ReContext不用训练就能让模型用上长文里的关键信息，Qwen3和Llama3上都有效，适合处理超长文档推理。

#ReContext #Qwen3 #Llama3 #长上下文推理

arXiv cs.AI@Yanjun Zhao et al. (9)Source

Papers12:35

Chinese content一层足矣？训练单层Transformer可媲美全参数RL训练

这篇论文发现RL训练只需调优一层Transformer就能接近全参数效果，还揭秘中间层才是关键，刷新认知。

#Qwen3 #GRPO #Transformer #RL训练

arXiv cs.LG@Zijian Zhang et al. (7)Source

PapersSelected10:07

Chinese contentLOCOS：用分散贡献评分检测非字面检索注意力头

这篇论文告诉你怎样用 LOCOS 找出模型里真正干活的注意力头，在长上下文检索任务上效果拔群，比旧方法准很多。

#LOCOS #Qwen3 #Gemma-3 #OLMo-3.1

arXiv cs.LG@Aryo Pradipta Gema et al. (3)Source

Papers10:08

Chinese content操作级视觉令牌跳过：高效多模态大模型推理方法

这篇论文告诉你如何在不牺牲性能的前提下大幅降低多模态大模型的计算量。他们在Qwen3-VL上砍了33.7%的算力，性能只掉了0.5%，方法很巧妙。

#MLLM #Qwen3-VL #推理加速 #VQA

arXiv cs.AI@Zhaoyang Luo et al. (7)Source

Papers09:59

Chinese contentEvil Spectra: 优化器如何放大或抑制突现错位

这篇论文告诉你：选对优化器能把模型对齐率差7倍，Muon比Adam更靠谱，还能用谱正则化补救。

#Qwen3 #Muon #Adam #突现错位

arXiv cs.LG@Jason R. Brown et al. (3)Source

PapersSelected09:22

Chinese contentLearnStop：推理模型早期退出的成本感知研究

这篇论文分析了推理模型什么时候该提前停止计算。LearnStop在数学题上比简单规则好，但难题还是用置信度更靠谱。

#LearnStop #推理模型 #GSM8K #MATH-500

arXiv: DeepSeek@Zhe Dong et al. (3)Source

Papers13:53

Chinese content悲观悖论：保守离线训练放大推理模型在线适应中的奖励黑客

这篇论文用Qwen3-14B和DPO实验证明，离线训练越保守，在线适应越容易翻车，还在GSM8K上给出了最优保守度公式。做RLHF的值得一读。

#Qwen3-14B #DPO #GSM8K #推理模型

arXiv cs.AI@Subramanyam Sahoo et al. (4)Source

Papers11:14

Chinese content推测解码中的接受理论：贪婪与宽松规则何时保证生成一致性

这篇论文搞明白了推测解码里那些花式接受规则到底行不行，给出了数学保证，还在Qwen3上验证了，搞推理加速的值得一看。

#Qwen3 #speculative decoding #推理模型 #解码方法

arXiv cs.LG@Aaryam SharmaSource

Papers10:26

Chinese contentEPC诊断框架揭示GPT-4o评估器漂移：版本间偏好耦合从强到零

这篇论文告诉你，你以为可靠的GPT-4o评估器可能几周后就失效了，它还给了你一个EPC框架来自己检查。

#GPT-4o #DeepSeek #Qwen3.7-plus #EPC

arXiv: DeepSeek@Liu ZewenSource

Papers09:21

Chinese contentOCR-VLMs 在天城体上的表现：压力测试基准与后校正研究

如果你对多语言OCR或印地语文本识别感兴趣，这篇论文揭示了主流模型在天城体上的真实差距，尤其是GPT-5.5表现不如开源Qwen3-VL-8B。

#OCR #天城体 #基准测试 #Qwen3-VL-8B

arXiv: DeepSeek@Aditya Pratap SinghSource