#Qwen3

这篇论文给出了一套错配缓存审计法，对比LatentMAS、KVComm、C2C后发现，基准涨分不等于真在传潜在思维。

同系列模型切换总得重新预填充？这篇用线性映射传KV缓存，能省2.7到25倍时间，四对组合还保住九成以上准确率。

这篇论文用LLM自动调PID参数，小模型Qwen3-0.6B调参成功率94%，比大模型还稳。

这篇论文提出了一个很聪明的改进：当学生模型推理跑偏时，让老师模型短暂接管一段，再交回学生继续训练。在Qwen3小模型上效果明显，数学推理准确率提升，训练还更快。

你想微调模型干专业活又怕它变傻？MemSFT加个记忆模块，领域知识涨了，通用能力不掉，比全参数微调靠谱。

想用LLM做实体匹配？这篇论文用Qwen3对比了bi-encoder、cross-encoder和生成式三种架构，告诉你不同场景选什么最靠谱，还公开了代码和实验数据。

论文用实验数据揭示了一个反直觉现象：学生在模仿老师时，67%的token在“同意但失败”，说明局部蒸馏有盲区。做模型蒸馏的朋友可以看看这个诊断方法。

TTEL能定位推理错误，只重算出错部分，省近一半计算量。Qwen3-8B在编程测试上成绩亮眼，值得关注。

如果厌倦了RLVR微调慢慢跑，试试ISO：只用1/3的训练步数就能达到同等效果，Qwen3-8B上实测有效，代码开源。

想解决Agent长程任务奖励稀疏问题？看TRACE方法，无需额外批评器，用TD变化给每步打分，Qwen3在BrowseComp-Plus上从7分直接跳到35分。

JADR协议能从模型内部直接测出危险识别能力，不用外部裁判，还能对比Qwen3和Gemma 2在不同量化下的安全表现，挺实用。

Qwen3微调模型在化学机理推理上直接击败了专用FlowER，准确率从5.1%提升到8.3%，化学和AI交叉领域值得一看。

Agon让两个模型互相打分比赛，推理能力直接翻倍，比GRPO强一倍，而且完全不需要人工标注过程标签。

用弱模型训练强模型，Qwen3-1.7B在AIME 2024从48.3%飙到62.4%，只花4小时8卡A100。比直接RL还省，值得试试。

ReContext不用训练就能让模型用上长文里的关键信息，Qwen3和Llama3上都有效，适合处理超长文档推理。

这篇论文发现RL训练只需调优一层Transformer就能接近全参数效果，还揭秘中间层才是关键，刷新认知。

这篇论文告诉你：选对优化器能把模型对齐率差7倍，Muon比Adam更靠谱，还能用谱正则化补救。

这篇论文搞明白了推测解码里那些花式接受规则到底行不行，给出了数学保证，还在Qwen3上验证了，搞推理加速的值得一看。

论文提出SARA方法，用语义锚对齐MoE路由，让低资源语言也能用好专家能力，Global-MMLU提升0.8%-1.2%。

这篇论文把LLM不确定性拆成四个层面，测了21种方法在多个基准上的效果，结论是共识方法最稳，模型越大越不模糊。

这篇论文提出了MAST，一种更精准的模型遗忘方法，在Qwen2.5和Qwen3上只遗忘你想忘的，保留数学能力不掉。适合研究模型编辑或推理安全的同学。

想知道怎么用CoT提示检测政治回避？这篇论文拿Grok-4-Fast跑出了0.51的F1，比微调Qwen3强，还分析了怎么设计提示最有效。

Muon在大模型上加速效果缩水？Hyperball通过固定矩阵范数，让Muon在1.2B Qwen3上又快了20-30%，还更好调参。

这个工作很实在：跨层共享专家参数让MoE模型内存减半，性能不掉，适合做模型压缩和高效训练的朋友看看。

想减少推理模型输出废话？ASAG免费即插即用，在Qwen3-8B上准确率升3.2%还省近40%token，实打实的效果。

论文揭示Qwen3隐藏状态如何预测代码正确性