想解决城市服务碎片化问题?这个框架把LLM和代码、API、MCP接起来,跑通跨系统任务,成功率比最强基线高10个点。
Latest
MedUPS 用强化学习教模型在罕见病例中预测下一步决策,三个开源模型准确率都提升了,数据集和代码已开源。
这篇论文实测了三个本地模型在 OSWorld 上的推理时扩展,发现多算不一定提升成功率,反而换着花样失败。做本地 CUA 部署的可以当避坑参考。
ReToken用一个小token当检索目标,从KV缓存里挑关键视觉token,Qwen3VL-8B在Visual Haystacks涨13.4分,单卡H100就能跑。
想把纯图片的Incidents1M变成图文对?这篇用Qwen3.5做生成和验证,10万条描述加自动打分,干活靠谱。
专门测希腊语变格的基准,500道题验证模型是不是真懂语法规则,Sophea-Genesis-1拿了头名,权重还开源了。
修Lean证明蓝图?这个接口用类型化编辑,比源码补丁省30%、比重写省一半,1万token内就顶到上限。
AgentS4D 用 328 个风险案例测了 20 种智能体组合,发现 66% 的测试任务虽然完成但实际不安全,别光看结果。
MindForge 教小模型从零写完整软件,不用源码只用可执行文件和文档就把 Qwen3.6-27B 在 ProgramBench 上提升了 11.53%,跟大模型差不多。
这篇论文提出了一个很聪明的改进:当学生模型推理跑偏时,让老师模型短暂接管一段,再交回学生继续训练。在Qwen3小模型上效果明显,数学推理准确率提升,训练还更快。
想用LLM做实体匹配?这篇论文用Qwen3对比了bi-encoder、cross-encoder和生成式三种架构,告诉你不同场景选什么最靠谱,还公开了代码和实验数据。
论文用Qwen3-8B做实验,发现KV缓存里的事件行能独立保存计算视图,主动构造回答无关事件能让恢复率从6%跳到51%,对搞Agent记忆的人很有参考价值。
论文用实验数据揭示了一个反直觉现象:学生在模仿老师时,67%的token在“同意但失败”,说明局部蒸馏有盲区。做模型蒸馏的朋友可以看看这个诊断方法。
这篇论文提出了VCSD,不需要外部老师就能让多模态模型自己教自己,在Qwen3-VL上几个规模都涨了4-5个点,而且不增加推理成本。
这篇论文提出了WML方法,能精准定位Agent工作流失败节点并复用外部技能知识,在SpreadsheetBench和Compiler-Supported50上表现亮眼,比直接SkillAgent省不少token。
别总盯着大模型花钱了,用Qwen3-4B和Foundation-Sec-8B组队就能干翻GPT,这篇论文给了具体方法和数据。
这篇论文用软前缀测试了三段论推理,发现模型答案很容易被带偏,Qwen和Gemma的稳定性差异很大,值得做推理研究的读一下。
用微分几何重新理解Transformer,给出了注意力机制是薛定谔桥、SGD是违反细致平衡的伊藤扩散等新视角,并有大模型实测验证。
这篇论文把拟人对话的生成、评测和奖励对齐做成闭环,Qwen3.6-27B微调后严格准确率39%,比基线高一大截。
这篇论文用Qwen3-8B做了AppWorld上的合并vs联合训练对比,发现合并效果不输联合训练,而且解释了为什么不同合并方法结果差不多。
想解决Agent长程任务奖励稀疏问题?看TRACE方法,无需额外批评器,用TD变化给每步打分,Qwen3在BrowseComp-Plus上从7分直接跳到35分。
这篇论文搞了个P-EVAL框架来评估农业AI的安全性,Pezego-HITL架构在加纳测试,延迟降了55%,还挺靠谱的。
这篇论文提出EcoSpec,在DeepSeek-V3.1等MoE模型上通过成本感知投机解码最高提速1.62倍,值得关注。
JADR协议能从模型内部直接测出危险识别能力,不用外部裁判,还能对比Qwen3和Gemma 2在不同量化下的安全表现,挺实用。
终端代理训练数据难找,SETA开源了4500+环境的RL数据集,Qwen3-8B训后Terminal-Bench拿到12%,顺带还让DeepSeek-V4涨了分,搞终端AI的别错过。
这篇论文告诉你,在小模型上用测试时扩展,关键是让模型把答案写出来,而不是复杂搜索。Qwen2.5-VL调参后性价比很高。
长时任务里AI老忘事?这篇提出主动记忆智能体,随跑随记关键信息,在Terminal-Bench上提升8.3pp,比被动记忆好用多了。
这篇论文对比了蒸馏不同教师模型的效果,发现推理型教师擅长教写作质量,托管型管线擅长教标签多样性,对选哪种蒸馏方案做端侧部署很有参考价值。
Agon让两个模型互相打分比赛,推理能力直接翻倍,比GRPO强一倍,而且完全不需要人工标注过程标签。
这篇论文解决了GRPO训练时难问题学不到东西的痛点,用自适应前缀让模型在数学推理上准确率翻倍,而且模型越小效果越明显,值得做强化学习的人看看。
这篇论文用97个机械设计问题系统测试了7个模型,LLMForge的两种批评机制各有优劣,VLM批评做到100%水密网格但旋转体仍有缺陷。
用弱模型训练强模型,Qwen3-1.7B在AIME 2024从48.3%飙到62.4%,只花4小时8卡A100。比直接RL还省,值得试试。
这篇论文给出了一个实用技巧:用蒸馏扩展支持域再强化学习,在数学和代理任务上都涨点明显,而且不需要改动模型结构。
这篇论文发现RL训练只需调优一层Transformer就能接近全参数效果,还揭秘中间层才是关键,刷新认知。
这篇论文告诉你如何在不牺牲性能的前提下大幅降低多模态大模型的计算量。他们在Qwen3-VL上砍了33.7%的算力,性能只掉了0.5%,方法很巧妙。