做 RL 后训练的人可以看看这篇:作者先解释了为什么同一批 rollout 多轮复用容易训崩,再给出 BRAT 这套更新方式,四次复用下不掉精度、种子间波动更小,比 PPO clipping 温和。
Latest
只把模型不到0.05%的权重清零就能达到全量微调效果,还几乎不遗忘旧任务,比LoRA更稳。掩码文件比checkpoint小上千倍,做持续学习和多任务后训练的工程师很该看看这篇。
搞太阳物理或空间天气预测的同学可以看看这个库,把图像、时间序列、表格三种数据的可解释性流程统一到一个接口,官方实测写代码量明显变少,跑起来也不慢,文档和示例都齐。
做因果发现、结构学习的开发者可以看这篇:作者在 DAGMA 之上加了一层矩阵式多跳路径证据,多尺度归一化后长环梯度不再指数衰减。论文带线性+非线性 ER 基准对比,稠密图上明显超过 DAGMA,代码思路也写得清楚。
做异常检测的同学应该会遇到训练集混入脏数据的问题。这篇论文的做法挺巧:用自编码器早期重建的余弦相似度找出污染点再删掉,不需要提前知道污染比例,8 个模型 10 个数据集上 F1 平均涨了 11.2%,而且是数据层面清洗,换模型也能用。
写张量计算库的朋友可以看看这篇。它把稠密、稀疏、锯齿张量和einsum统一成函数复合,稀疏矩阵乘法自动跳过零元素,复杂度从O(mn²)降到O(m+k²),代码草案已开源。
做芯片设计或 HLS 的朋友可以看看这篇:AutoC2V 把真实综合结果变成训练数据,再用一个 QoR 预测奖励模型省掉反复跑综合的开销,生成的 RTL 在延迟和资源上比 HLSPilot、AutoDSE 和 Claude Opus 4.8、GPT-5.5 这些通用模型都好。
智能体改自己的代码时最怕把噪声当进步,贪心门控近一半更新其实是在变差。这篇论文用在线假设检验把劣化率压到 2.78%,还给了性能增益下界证明。做自进化智能体框架的开发者值得把这套门控思路搬过去。
搞第一性原理计算的值得看看:200 多道 Quantum ESPRESSO 任务测 LLM 智能体,还带执行溯源审计防止“没真跑也拿高分”。DeepSeek 和 Opus 在弹性张量上表现差距明显,脚手架的作用因模型而异。做科研智能体的人可以拿来当评测模板。
搞 Agent 的都该看看这篇。它说清了为什么加了 RAG、树搜索的智能体还是学不到东西——因为权重不动。想做出能真正从交互里学习的探索型 Agent,这篇给了定义和路线图。
拿100个真实厌食症社区的问题去测三个开源模型,还改用户背景做对照。结果挺扎眼:不告诉模型用户情况时,危险回答翻倍;体型不同得到的保护也不一样。做 AI 安全或医疗方向的人应该看看这套评估方法。
扩散语言模型 decoded 时信噪声大,这篇给出了能直接用的解法。相比瞬时置信度或熵这类局部信号,它看 token 在去噪过程中跳变多频繁,专治难题。做 LLaDA 或 Dream 推理优化的开发者可以照着复现。
医学影像数据又贵又难标注,这篇研究用 Nano Banana 生成的图像训练出了和真实数据差不多水平的诊断模型,还演示了怎么靠编辑图像揪出模型作弊。做医疗 AI 的研究者和工程团队都该看看它的评估方法。
这篇论文做了一件很细的活:拿 Qwen2.5 和 GPT-OSS 在 Grid 和 WebShop 上证明模型内部其实能算出哪个动作更优,但策略层面偏偏不用。对做智能体可靠性或可解释性研究的人来说是很有用的诊断框架,NVT 这种干预思路也值得上手复现。
这篇论文挺有意思:不用中心服务器,靠信息素蒸发来检测掉队无人机,一半机群静默挂掉也能恢复编队。适合做无人机集群、分布式系统容错的开发者,结论也提醒大家:效果主要靠调参而非算法本身的随机机制。
做智能体强化学习训练的朋友可以看看这篇论文。它用容器级工作区分叉加工具缓存,实测峰值内存砍掉 43%、延迟降 23%,实现细节在 Linux 内核模块层面都讲清楚了,适合自己搭 rollout 基础设施的工程团队参考。
做了模型编辑以为知识删干净了?这篇论文证明一句提示词就能恢复八成被编辑的事实。做安全审计或部署“已删除知识”模型的团队都得看看这个方法。
投机解码的 drafter 训练一直缺一个对齐接受长度的目标函数,这篇论文把它做成了无偏梯度估计器。在 Qwen3-8B 上十个基准验证,一个 epoch 就有 9.4% 吞吐提升。做推理优化的工程师值得照着复现。
机器人开发者值得看:RL 在需要主动获取信息的任务里成功率不到 5%,这套规划器蒸馏方法干到 90% 以上,还能泛化到含糊指令和更大的地图。做具身智能或任务规划的团队可以直接参考论文里的 Dual Averaging 损失设计。
这篇论文做了个很扎心的实验:把模型的视觉 latent 换掉或删掉,答案几乎不变,说明所谓视觉推理其实是文本在干活。作者提出 AnchorSim 对比蒸馏来修复这个问题,做潜在推理方向的研究者值得对照一下自己的训练目标。
做无人机或机器人自主系统的开发者可以看看这个新基准。它把任务意图拆成五类结构化契约,测试发现召回率 87.5% 的配置 16 次任务只完成 1 次,比它召回率低的反而完成 14 次,还会用 Jetson AGX Orin 的配置重放能耗,能避免你在错误指标上做策略选型。
把神经网络验证里的边界传播搬到通用优化求解上,一个 GPU 版全局求解器,505 道题解出 421 道,比 Gurobi 和 BARON 还多解出 16 道它们认证不了的题。做运筹优化或依赖求解器的团队可以看看这条新路线。
搞电网状态估计的可以看看这篇:几个 PMU 一次前向就推全网功角和转速,不用逐场景跑优化,模型误差大时比 Kalman 类方法更稳,成本还低。无标签训练这点对缺实测数据的团队特别实用。
做生医机器学习的人该看看这篇:它指出了按祖先分组建模的真实缺陷,即遗传距离连续变化导致精度下滑,然后用上下文学习基础模型改成连续谱建模,还给了理论证明和开源代码,方法可以直接搬到自己的组学预测任务里试。
做隐私审计或模型安全研究的可以看看这篇:训练一次 LoRA 就能生成虚拟影子模型,省掉传统 MIA 的模型集成开销,实测在 Document VQA 和 Medical VQA 上比标准攻击更强。
数据挖掘圈的老方法关联规则挖掘遇上了 LLM:用模型的世界知识判断哪些规则真正"有趣",又不放弃统计检验。做 EDA 或 BI 分析的同学可以看看这篇,论文给了在三个交易数据集上的实测结果,思路可以直接搬到自己的数据上。
做扩散模型或多模态生成的朋友可以看看这篇。它不从头联合训练,而是在采样时桥接现成的预训练模型,省掉大量训练成本,代码也开源了。想在已有模型上低成本扩展多模态能力的团队会感兴趣。
做多用户 Agent 产品的人该看看这篇。它给记忆系统加了个权限维度:哪些经验只有这个用户能用,哪些可以全局共享,还附带基准 CrossLearnBench 专门测隐私泄漏,比常见的全局记忆方案干净不少。
这篇 arXiv 论文面向做仿真替代模型或工程不确定性量化的人。它把双保真建模和 Langevin 采样超网络结合起来,在实验、仿真和合成数据上验证,比单点拟合能给出后验不确定性,实验数据不够时也能用低保真数据补。
这篇纯理论论文把可复现性学习里的一个悬置猜想做完了:805·ln(2m)·ln(2n) 的上界配上 Hanner 矩阵的同阶下界,等于给出紧刻画。做学习理论、可复现性或组合拓扑的读者值得细读,证明工具本身(立方载体定理、熵倾斜)也可复用。
一条关于 ReLU 网络函数空间性质的数学证明:单隐藏层弱闭、两层不闭,还推翻了 Petersen 等人的猜想,做神经网络理论分析的可以看看。
研究发现推理时别让 100 个智能体单干,也别挤成一个大组,分成 10 个小组并行跑效果最好,一半任务还能赢过前沿模型。
一篇挺有意思的论文:让 LLM 只推理一次,之后把解题过程存成 CPU 能直接跑的缓存,便宜 16 到 291 倍还不用 GPU。做推理成本优化的可以看看。
医生写手术报告太费时间,这篇论文用图结构加检索生成场景描述,三元组准确率比 SGT 高了快 20 个点,做医疗 AI 的可以看看思路。
写 COBOL 这种没人愿意人工标注的老代码文档时,这篇给了个思路:让几个模型各写摘要互相投票,不用人也能估准不准。
The co-design removes the trade-off that previously forced a choice between quantization accuracy and decode speed: system-level changes like transposed softmax eliminate lookup overheads that plagued earlier FP4 KV methods. Teams running long-context inference on NVIDIA Blackwell hardware can apply it directly, since the implementation is open-sourced and works across dense and MoE models with GQA and MLA, and it even holds up in RL training rollouts.
researchers 让 LLM 智能体在 Lean 里写量子程序,还能数学证明验证对不对,量子算术直接提升 290 倍,值得看看这套自动化发现流程怎么搭的。
如果你在项目里维护 AGENTS.md 或 CLAUDE.md,这篇论文量化了文件过期后每次会话多花的真金白银,732 条轨迹的逐次调用分析很扎实。
有人把 Laya 这个一次前向答多选题的小模型拆开测了个遍:选项换个位置,四分之一的题答案就变了,还给出了能把翻转率压到 0.5% 的微调办法。
Only the latest 2000 items are listed; for older ones see the daily archive