Latest
PIHF把强化学习的迭代改进搬到了上下文学习里,用语言模型当执行器,专家审阅改进,罕见病诊断上Recall@1提升明显,值得一看。
这篇论文把黑盒RL搬到agent harness上,用Qwen3-30A3B在OpenClaw和Claude Code上跑,ClawGym-Bench直接涨了10到15个点,还支持多个harness一起训练。
想看看AI在规则变了之后能不能自己改代码?PACE-Bench 专门测这个,目前最强的 GPT-5.5 也只解决了 Statics 子集的三分之二,离满分还远得很。
如果你在做MoE推理,TEMPO这个调度器在内存/算力瓶颈混合时能比常规方案快15.5%;不过DeepSeek-V3那种通信瓶颈场景它不灵。
想搞自动驾驶数据检索的可以看看这个TraVEL,用行车轨迹当训练信号,让模型更懂左转右转、加速减速,比普通微调强不少。
想知道中国大模型是不是都一个样?这篇论文用囚徒困境测了DeepSeek、Qwen、Kimi和GLM,发现它们合作倾向差别挺大,别再把它们当铁板一块了。
做LLM后训练的朋友可以看看,MISA-T把混合rollout调度做得更精细,吞吐提升明显,而且不牺牲任务效果。
想了解怎么让模型部署后还能继续学?Macaron-V1用LoRA组合和递归改进做到了,744B大模型加四个专家LoRA,还开源。
这篇论文讲了个反直觉的事:蒸馏时师生token一致反而可能有害。TIDE方法在数学推理上把准确率从6.9%拉到20.3%,还让回答短了3.6倍,值得做LLM后训练的人看看。
想提升数学推理模型?SKALD 把技能蒸馏进权重,比 GRPO 最高涨 12 分,还不用改推理时的输入。
想知道开源模型在金融领域到底行不行?这份基准测试用数据说话,Kimi K2.6和GLM 5的表现可能会让你意外。
这篇论文说推理模型其实能建出世界模型,但解题中途就弄丢了。它用小模型和可解释性方法把问题定位得很清楚,还给出了补救办法。
这个新框架TRIAL能让智能体强化学习更高效,在多个任务上超过GRPO,成功率提升近19个百分点,搞RL的可以看看。
不需要标注和外部反馈,U-OPSD靠投票让Qwen3数学成绩再涨一截,追平甚至超过OPSD和GRPO。
它用答案倒推给搜索智能体每一步打分,4B模型在BrowseComp上拼到55.3%,能对标30B模型,值得看方法。
Skill Entropy能测出模型切换推理技能的短板,还能当训练信号:Qwen3小模型得分从34%飙到68%,也能用在OpenR1-Math数据上。
符号回归老被单一大模型提示词卡住,这个A-SR让不同智能体分工盯不同失败信号,准确率从25%拉到48%,还开源蒸馏路子,值得看一眼。
同系列模型切换总得重新预填充?这篇用线性映射传KV缓存,能省2.7到25倍时间,四对组合还保住九成以上准确率。
医学影像领域的小伙伴可以看看这篇,CARE-X 把胸片分类、定位、报告生成整合到一个模型里,还靠工具调用做解剖测量,临床实用性比纯生成模型强不少。
这篇论文把教学策略拆成13种,用260段真实对话和3.2万条标注训练出TACTutor,在78个测试场景比基座涨了20%,盲测还赢过商业模型。
这篇论文在Qwen3-32B上找到了时间偏好的内部方向,用对比激活加和就能双向改变模型选短期还是长期,还能顺带提升规划能力,挺有意思。
想解决城市服务碎片化问题?这个框架把LLM和代码、API、MCP接起来,跑通跨系统任务,成功率比最强基线高10个点。
MedUPS 用强化学习教模型在罕见病例中预测下一步决策,三个开源模型准确率都提升了,数据集和代码已开源。
SESA让AI自己出题自己练,把失败经验存下来反复用,问答准确率比SSP高1到3个点,代码已经开源了。
这篇论文实测了三个本地模型在 OSWorld 上的推理时扩展,发现多算不一定提升成功率,反而换着花样失败。做本地 CUA 部署的可以当避坑参考。
ReToken用一个小token当检索目标,从KV缓存里挑关键视觉token,Qwen3VL-8B在Visual Haystacks涨13.4分,单卡H100就能跑。
想把纯图片的Incidents1M变成图文对?这篇用Qwen3.5做生成和验证,10万条描述加自动打分,干活靠谱。
专门测希腊语变格的基准,500道题验证模型是不是真懂语法规则,Sophea-Genesis-1拿了头名,权重还开源了。
修Lean证明蓝图?这个接口用类型化编辑,比源码补丁省30%、比重写省一半,1万token内就顶到上限。
AgentS4D 用 328 个风险案例测了 20 种智能体组合,发现 66% 的测试任务虽然完成但实际不安全,别光看结果。
MindForge 教小模型从零写完整软件,不用源码只用可执行文件和文档就把 Qwen3.6-27B 在 ProgramBench 上提升了 11.53%,跟大模型差不多。
这篇论文提出了一个很聪明的改进:当学生模型推理跑偏时,让老师模型短暂接管一段,再交回学生继续训练。在Qwen3小模型上效果明显,数学推理准确率提升,训练还更快。