做 RL 后训练的值得看:LGPO 用似然门控替掉 GRPO 里重复算 old-policy 似然那步,训练时间少约 18%,全 on-policy 时 GRPO 会崩它还稳着。省显存又省算力,自己跑 RL 的团队可以直接对照论文改实现。
Latest
土卫六离地球太远,地面没法实时指挥,这篇论文直接把轨道动力学写进动作掩码里训PPO,探测器自己就能规划任务。做航天GNC或自主系统的工程师值得看看实验和消融部分。
做 LLM 网关、多模型切换或者翻译层的开发者该看看这篇:翻译后的请求能过 API 校验,但角色、工具调用信息可能已经悄悄丢了。论文给出的 ConvIR 中间表示加规则判定,不用额外调用模型就能测出问题,还附带真实故障率数据。
CLIP 这类模型一直分不清“有 X”和“没有 X”,这篇论文只加一个轻量分解器 NegSplit 就解决,不用微调模型。COCO-MCQ 提到 82.4%,比 KTN 高近 3 个点,还能直接用在 SigLIP 上。做图像检索或多模态匹配的开发者可以直接套用这套打分思路。
做 RLVR 训练的人该看看这篇。它指出 token 熵高其实是模型在乱说话,不是在探索,然后给了 VEPO 这个修法,在 MATH500 等六个数学基准上比 GRPO 准确率更高,还用统计检验验证了策略确实更多样。
天文学里判断类星体光变是不是周期信号,以前都靠 DRW 模型当参照,但这篇把生成模型直接拿来学噪声分布,AR(2) 场景下比拟合参数模型更准。做时序异常检测或生成式建模的人可以看看思路。
arXiv 上的理论论文,不是发模型那种。它把拍卖、市场这些制度拆成坐标维度,让你能设计出人类社会没有的经济结构。做多智能体系统、给 agent 设报酬和所有权规则的研究者会受益,做应用开发的可以先收藏。
一篇关于 agent 工程的硬核论文:EvoX 用 Rust 写的运行时层去管住模型落地时的工具调用、中断恢复和结果校验,不靠记忆和插件就拿到 691 组测试里 56.2% 的成功率。做 agent 框架或工程化落地的开发者建议看看它对 GLM-5.3 和 Kimi K3 提升最大的原因。
电网调度这类安全敏感场景,纯数值奖励很难表达"哪些操作不允许"。这篇论文让 LLM 用自然语言给强化学习策略打分,再加人工抽查纠错,在 IEEE 118-bus 系统上跑赢了 vanilla TD3。做工业控制或 RL 安全的人可以看看这个范式怎么搭。
量子计算圈长期争论'量子到底啥时候真有用',这篇论文让 AI 智能体自动复现论文、跑基准、做资源估算,把优势评估变成可持续更新的流程。做量子算法或经典模拟研究的人值得看看这套闭环思路。
做了实验才知道:让模型先重述题目不是万能的。这篇论文测了 8 个模型、8 个基准,给出三种改写方式和固定规则,规则化改写能涨 11.0%,乱改反而掉 5.6%。写提示词的人应该看看什么时候改写才有用。
这篇论文挺有意思:不靠作弊样本,只用日常故事就能在 Qwen、GPT-OSS、Gemma 三个模型里找到"任务变糟"的内部信号,减掉它能减少作弊。做智能体安全和监控的人值得复现看看,尤其是跑长链条任务的团队。
做物理仿真代理建模的可以看这篇,它把五个主流架构在等离子体仿真上的样本效率拉通了对比,FNO 多数场景最省数据,但边界工况下 Transolver 反超。选架构别只看榜单,要看你的精度目标和参数区间。
采样前先用短前缀的置信度排个序,只补全有戏的路径,token 省了效果还更好。做推理加速、搞 test-time scaling 的人可以直接看这篇的理论部分和实现思路。
做 agent 或跑 SWE-bench 的人该看看这篇。它发现不少模型第一次改代码就对了,之后一半步数在白跑,甚至有 1–8% 的运行把对的补丁改坏。想省 token、提高评测准确度,这个指标很实用。
做 model-based RL 或 active inference 规划的人该看看。它用 CARLA 里的探针实验证明想象 rollout 会悄悄丢掉障碍物信息,而且 ensemble 不确定性完全察觉不到,0.52 的 AUC 就是随机水平。这种可测量的诊断思路比单纯刷分有用。
把“从数据反推 PDE 方程”这件原本要专家手工做的事交给 LLM 智能体,还做了个 1,001 案例的基准来量化。带验证门控的自我改进比直接跑 Claude Code 或 Codex 通过率更高、调用还更省,做科学计算智能体的开发者可以细看它的设计。
这篇论文做了很扎实的消融实验:在 Chameleon-7B 上关掉视觉-语言轴,纯文本空间推理直接掉了 27.6 个点。结论对做模型可解释性或评估的人很有用——探针能看到不等于模型真的在用,得做因果干预才能下结论。
做视觉推理或分割模型 RL 训练的可以看看这篇:HISD 用 EMA 教师在 token 级分配证据,比 DPAD 在 ReasonSeg 上 gIoU 高 3 个点,推理 token 还砍掉八成以上,而且部署时不带教师,成本不涨。
这篇论文把"这张图有没有创意"这种主观判断变成了可计算的分数:先预测新颖性、惊喜度、唤醒度三个维度,再合成总分,结果和人类评分统计等价。做 AIGC 图像评估或内容筛选的团队可以直接参考它的实验设计,标注数据是通过 Amazon Mechanical Turk 收的,方法可复现。
用 Llama-3.2-11B-Vision 做的表示干预研究,把数数这类视觉能力拆成定位、干预和目标选择几个环节分别攻克,计数准确率提升 8 个百分点且不动权重。做模型可解释性和干预控制的开发者值得看,比常见的 attribution-steering 方法设计得更系统。
扩散语言模型长上下文外推一直是难点,这篇论文没做任何训练就把 LLaDA-8B 的 8192 token 困惑度从 19.51 降到 3.12,比窗口内还低。思路是利用解码过程中的掩码密度给 RoPE 加动态偏移,和自回归那边静态的 NTK 缩放完全不同。做 dLLM 推理或长文本任务的工程师可以直接看方法细节。
游戏行业皮肤收入靠拍脑袋定价的日子可以改改了。这篇论文难得在于系统已真实上线一个完整发布周期,预测精度、CPU 延迟和吞吐数据都给全了,还坦诚讲了预训练嵌入泄露时间信息这种踩坑细节。做销量预测或游戏运营的工程师能直接借鉴架构和两条教训。
做定价或销量分析的朋友值得看看:论文用真实零售数据证明,TabPFN 这类基础模型预测准但因果效应估计可能全错,连工具变量用错形式还会更糟。需要从预测走向因果决策的团队建议读一下。
这篇来自 arXiv 的论文做了个挺有意思的模型:把 ICU 里的动脉压、颅内压、呼吸机波形这十种信号一起预训练,术中低血压预测 AUROC 到 0.894,19 个任务上没有输过。做生理信号或医疗 AI 的开发者可以仔细看看 LSCNorm 这个设计。
这篇审计会改变你看医疗模型榜单的方式:两个知名开源模型对气胸全部漏诊,还能流畅描述体征再否认它。做医疗 AI 选型或部署的人必须看,评估任何 VLM 都该按病症拆分指标,别信平均分。
刷榜这事在开放挑战赛里真会发生,论文复现时一个选手开两个号就包揽前两名。作者把预测市场付费规则证明了一遍,还给出按次收费和版税两种补救方案。如果你在做开放基准或众包评测,这篇直接帮你避开坑。
做视觉应用经常直接下开源编码器微调的朋友该看看。这篇论文证明被污染的编码器即使微调后后门也能存活,防御手段基本失效,最高 97% 攻击成功率,比已有的微调激活攻击适用面更广。
做药物生成的朋友可以看看这篇:BindMol 把对接分数拆成多个 hotspot 目标来训练强化学习,比传统只优化单一分数的生成方法更能产出多样结合模式的分子,论文在 arXiv 上可读。
做模型评测和安全审计的人应该看看这篇。它用 Qwen 2.5-3B 在 GSM8K 上实证演示:攻击者只要根据检测规则再训练两轮,文本审计的 AUC 就从 0.978 掉到 0.560。如果你依赖评测分数判断模型安全,这篇会让你重新审视检测流程。
这篇把'好奇心'从心理学概念变成了能算的公式,还接进了真实推荐系统。离线实验打赢了SOTA,线上A/B测试让点击率和观看时长都涨了,现在已经在亚洲某视频平台跑着。做推荐算法的、研究用户参与度的人都该看看这套建模思路。
如果你调过 Q-learning 会被初始阶段的大误差困扰,这篇把误差拆成 TD 和最大化两块,告诉你瞬态从哪来、为什么高斯近似够不着。做强化学习理论或想理解算法收敛细节的研究者会很受益。
搞地震勘探的可以看看这篇:传统方法每换一个工区都要重新训练模型,井数据又少得可怜。这篇用掩码自编码器预训练加冻结编码器,部署时完全不重训,Overthrust 数据上 P95 误差从 0.1310 降到 0.1074,盲井验证误差还降了 20.95%。
搞训练的朋友别再默认 SFT 天生不如 RL 了。这篇论文用 Qwen 系列实验证明,只要数据混合得当、rollout 预算对齐,SFT 泛化能追平甚至反超 RL。做后训练、纠结 SFT 数据配比的人值得细看。
用 epigraph min-max 代替拉格朗日乘子来处理安全约束,训练稳定性和跟踪精度都比常规 DRL 更好,还做了实车在环测试。做自动驾驶控制或安全强化学习的开发者值得看看这套思路。
做语音识别或音频大模型的人该看看这篇:论文演示了小扰动就能让 9 个 ASR 系统和 4 个 LALM 出错,还公开了攻击代码和演示。如果你在用开源语音分词器搭 SpeechLLM,ROSETok 的训练思路可以直接参考,比泛泛的安全讨论实用得多。
四个轻量模型实测了检测和重构拆开还是合并更有效,结论挺反直觉:拆分主要靠门控省开销,真正的瓶颈是漏检。写 GitHub Actions 的 CI 工程师和做 CI 自动化智能体的人都该看看这套评估设计。
17 个主流模型、1386 组配对比较的疼痛管理偏见审计,结论是没测出种族性别差异,但模型自身配置的波动大得惊人。做医疗 AI 评测或关心公平性审计方法的人,这篇的方法论细节很值得抠。
四个模型加九个基准,最大的 API 请求放大到了 93.88 倍,而且任务检查全过、MCP 扫描器全部没报。做 Agent 平台或 SaaS 计费的人应该看看,它指出了一个新风险面:Agent 自己决定何时停止,这个机制本身能被租户拿来刷你的资源。防御思路部分也写得具体。
An agent loop that continuously recompiles inference engines against live traffic could shift how serving providers keep pace with rapidly changing model architectures, replacing static hand-tuned kernels. Teams running inference infrastructure or building MoE serving stacks can study the tiered persistent engine design and context-management ablations for their own optimizer setups. The results also benchmark directly against open source engines on Chinese frontier models like DeepSeek v4.1 Flash and Kimi K3, a useful comparison point when evaluating serving providers.
Only the latest 2000 items are listed; for older ones see the daily archive