做 Agent 或工作流的人常纠结:模型错了该改提示词、补代码还是加推理预算?这篇用 36,672 个可精确验证的库存模拟案例给出拆解,还发现强制工具调用接口会让 GPT-5.4 mini、DeepSeek V4 Pro 的推理评估失真,调接口和选模型的人都该看看。
Latest
做智能体记忆和长任务训练的可以看看这篇。它没发明新记忆工具,而是把预训练里已有的文件操作技能直接当记忆用,再用异步在线蒸馏把教师的经验迁移过来,增益是最强 OPD 基线的 2.97 倍,还迁移到了 Terminal-Bench 2.1 和 SWE-Bench Pro V2。
训练时偏好数据常有标注噪声,这套方法能在 token 级别识别并压低被污染 token 的影响,而且只加一次前向传播,训练成本几乎不变。做 RLHF 或 DPO 微调的团队可以直接用他们开源的代码试试,和序列级方法比抗噪能力更强。
如果你在玩 KAN 或者函数回归,这个库挺有意思:曲线参数可以直接放进训练循环里一起优化,不用自己写 B 样条求值。作者还拿 EfficientKAN 做了性能对比,什么时候开销大会吃亏都说清楚了,写 PyTorch 自定义层的可以参考实现思路。
训练 RL 模型时奖励只有一个数字,浪费了大量信息。这篇让教师模型自动写提示和策略当脚手架,四类任务全赢过普通 RL 基线,数学只用三分之一步数就超过 QuestA。做后训练的工程团队可以直接参考这套自动化方案。
搞药物发现或计算化学的可以看看这篇:专家靠 3D 工具和物理打分排序分子构象几乎等于瞎猜,而两个 LLM 智能体分别做到 67% 和 74%。用代码生成特征做回归这套路子,比直接让模型推理更有效,开源模型经 GRPO 微调后还能追平闭源模型。
做神经形态或连接组建模的值得细看:同一份 Drosophila 连线数据,调参协议一换,"真实连线更好"能翻转成更差,差距都是 0.09 量级。文章把 P1/P2/P3 三种协议拆得很清楚,还给出 44% alpha'beta' 占比这个反例。想引用"结构决定功能"类论文的人,最好先照这套协议自查一遍。
这个基准把记忆型和权重型学习放进同一条 ARC-AGI 任务流里打分,结论挺扎心:单纯加记忆的 agent harness 还不如缓存演示的笨基线,泛化还是得靠改权重。做长期记忆和智能体框架的人应该看看,它给了可复现的评测管线。
这篇论文把大模型的涌现现象搬到了药物分子层面:只用序列训练的 Bonbon,不做任务监督就能自动学会找结合位点、判断共价与非共价。速度比共折叠快十万倍,湿实验命中率 61.5% 相当扎实。做药物设计或分子机器学习的都该看看。
做 VLM 推理优化的开发者可以看看这篇。它不训模型,靠按问题选裁剪还是压缩来省算力,FLOPs 省三成多、精度只掉不到 1%,RTX 3090 就能复现,比单纯砍视觉 token 上限更细。
做 RLHF 或 GRPO 训练的工程师应该看看这篇。它用理论解释了一个常见现象:为什么训练到后期最优响应概率会掉到接近零,以及为什么定期重置 KL 参考点能救回来。连 Kimi 用的训练算法都被纳入了收敛证明。
搞模型评估的人常纠结选几折,这篇论文直接证明了 K-fold 一阶方差最优、且一阶方差与 K 无关,leave-one-out 在合理条件下方差最小。做交叉验证置信区间或审稿判断方法学时可以直接引用这套结论。
用预训练表格模型 TabPFN 预测含能材料的撞击感度、分解温度和晶体密度,不调参就赢了 XGBoost、随机森林和 Chemprop,还快一个数量级。做材料性质建模或者被调参折磨的可以看看,思路在其它小数据集上也能借鉴。
做时空预测或环境传感数据分析的人可以看看这篇。标准 Neural Processes 假设输入干净,DnNP 用变分推理把传感器噪声直接建进模型,PM2.5 插值上 RMSE 降 30%、NLL 降 73%,还给了理论保证,比简单加平滑滤波更有依据。
CLAP、MuQ 这些音频模型的嵌入是纠缠在一起的,这篇论文证明加一层很小的可训练门控就能把属性拆开,检索效果还顺带提升。做音乐检索或者想精细控制属性的工程师可以看看实现细节,不用重训骨干,成本很低。
做医学影像的人该看看这篇:他们拿 DINOv2 和 U-Net 在三种影像上正面对比,还测了跨医院的外部数据,结论很实在——院内任务用老方法就行,要跨机构部署再上基础模型。顺手还揪出一个测试集数据重复的问题。
医学影像检测一直被数据标注不一致卡着,这篇把 EM-DETR 扩成多数据集基础模型,胸片 AUC 涨了 1 个点,mAP50 比单数据集高 2-3 个点。做医学 AI 的研究者可以看看 student-teacher 那套融合异构标签的思路。
做科学发现智能体的开发者该看看这篇:智能体跑完实验只会说"假设被拒绝了",却答不出哪个解释成立,论文用对比集把 73% 的拒绝转成了明确答案,同等预算下多解决 67% 的问题。改动只在假设的提出单元上,现有智能体框架可以直接套用。
做智能体评估的同学该看看这篇。它用同一批 trace 实测了三种评估框架:trace-based F1 到 0.90,纯文本方案误报多 5 倍,还有 24 个功能测试和安全红队零重叠的新失败。结论很实在:功能评估用 trace,安全验证用红队,两条腿走路。
做流程自动化的团队可以看看这篇。思路挺聪明:不每次跑都让 LLM 决策,而是从 Agent 日志里挖出分支条件,编译成纯代码工作流。速度从 170 秒掉到 1.3 秒,成本降 24%,准确率只掉两三个点。跑固定 SOP 的场景很划算。
ICML 2026 的 200 篇论文被变成一个二十问游戏,让 GPT 等六个模型倒推论文核心想法,结果发现它们识货但不擅长自己想出来。做自动科研或智能体搜索的人,这篇给的“外部注入候选”思路值得直接搬进你的 pipeline。
家里机器人学做家务现在有了更清晰的训练路径:一个 checkpoint 管住 100 个任务,还能把 14 个难任务外包给 GPT-6 Astra 拿到 0.639 的 Q 值。做具身智能和 VLA 训练的工程师可以重点看它的任务迁移和降噪训练细节,比头部的纯 RL 方案更贴近实际算力。
运筹学和 AI 两个圈子各用一套搜索方法,这篇论文把 B&B 和 A* 放在同一条件下跑 480 个调度实例,A* 靠重复状态检测全部证明最优,B&B 只做到 445 个。做排程或规划求解的人能从中直接判断该选哪种方法、能借鉴什么机制。
搞传感器和时序预测的人该看看:论文拿 MOMENT、Chronos-2、Moirai-MoE、TimesFM 四个模型实测,告诉你降采样到什么程度性能才开始崩,还给了 FSI、FDI、CDI 三个现成指标。做边缘设备省电部署时能直接照着评估。
五个 LLM 把情境转成 POSG 世界模型,99% 能跑通但结构 F1 只有 0.366,能对上的参考不到两成。做规划或神经符号系统的开发者该看看,别只验证可执行性。
这篇论文尝试让小模型平时用 4-bit 算,只在不确定的步骤回退 8-bit,代价测算得很细。诚实地说,实机数据还没和全精度拉开显著差距,但门控捕获率和字节成本分析对做端侧推理量化的人很有参考价值,适合 Qwen3 用户和量化工程方向的研究者看。
两个 Qwen3 小模型上的实测账本:6 bit 量化不掉分,4 bit 会放大选项位置偏差。结论很实用——用 6 bit 权重,省下的预算拿去做最多四次选项顺序平均。做本地部署和评测的人可以直接抄这张决策表。
做自动驾驶或安全认证的同学可以看看,这篇把流行病学里的中介分析搬进了神经网络训练,解释不再是相关而是因果,还有必要性、充分性、独立性三条可量化准则,比传统概念解释方法严谨不少。
做低延迟生成的朋友可以看看这篇:DLM 的块扩散原本一块卡住全卡住,B3 让两个块在一次前向传播里并行去噪,不用训练不用调参,10 个数据集上白拿 11.5%-14.5% 加速且质量不掉。
做 ML 研究或想搞懂各模型之间关系的人值得花时间。它把 GAN、diffusion、BERT、对比学习全塞进同一个能量框架,差别只在配分函数和采样怎么处理。看懂这篇,很多论文里的公式其实是在说同一件事,而且能量组合还能直接推理出新算法思路。
搞 self-improvement 或智能体自学习的人可以看这篇。它把 CoT、Self-Instruct、Tree-of-Thoughts 这些方法统一归到四个认知机制下,还解释了为什么模型崩溃和幻觉扩散是结构性的,不是调参能修好的。比单篇方法论文更有全局视角。
端侧适配新模型要在转换、图构建、算子、后端好几层同时改,普通编码 agent 搞不定。这篇论文的 builder+auditor 双角色设计把成功率从 33.3% 拉到 75%,做端侧部署的工程师值得细看实现思路。
做 RAG 或知识问答的工程师值得看看这篇。它揭示了一个容易被忽视的坑:检索到的段落粒度偏粗时,模型不会拒答而是瞎猜,错误率约一半。简单加置信度过滤或换更大的模型都没用,论文给出了结合领域本体缓解此问题的路径,以及仍未解决的关键环节。
一篇挺有意思的实证研究:把 Chatbot Arena 上 126 万条投票拆开分析,发现模型没变差,是用户眼光变高了。做产品的人应该有共鸣——你原地不动,用户就觉得你退步了。做 RLHF 数据的人更该看看这篇。
扩散模型随机采样比确定性采样慢的问题,这篇论文给出了理论解释和免训练解法:F-DDPM 复用历史预测和噪声构造前瞻点,同 NFE 下 FID 更低,只多花 1.5 倍 NFE 就接近确定性采样质量。做生成模型部署或采样器研究的工程师可以直接看开源代码。
让 GPT-6、Claude Opus 5.5 这些模型去真控制机器人,危害率都不低。这篇论文给了一套能直接套在现有架构上的三层闸门方案,任务照做、危险操作被拦,做具身智能和机器人方向的开发者值得看测试细节。
做推理服务优化的人该看看这篇:升级模型版本后旧 cache 别急着扔,在长前缀 QA 场景下能拿到 2 到 5 倍的首 token 加速。论文用 DeepSeek-V4-Flash 做了完整实验,还给出了 FCD 这个新指标来量化复用后行为偏移,比单纯看准确率更细。
安全研究者应该看看这个基准:它不是纸面推演,而是在 Proxmox 虚拟机里跑真实 Windows 和 6 款 EDR。连 DeepSeek-V4.1 Flash 这种轻量模型都能 18 次里成功 17 次,说明攻防门槛在快速变化,做 EDR 采购或红队的团队都能拿来测自家防御。
LLM 判新闻会被标题措辞带偏,情绪化标题能让严重度评分高出近 1 分,DeepSeek 和 LongCat 四个模型都中招。做内容审核或新闻路由的团队该看看:补上正文能消掉大半偏差。
这篇论文把因果老虎机从“完全已知因果图”推进到部分已知也能用,能用别的环境数据和反事实实验来剪掉不值得试的动作。做 bandit、离线 RL 或因果决策的研究者可以直接参考它的图判据和 regret 保证。
Only the latest 2000 items are listed; for older ones see the daily archive