做 GraphRAG 的开发者可以看这篇:很多人用 LLM 抽完实体和关系就得到一张扁平图,没有类型层级,检索质量上不去。AutoOntic 直接从文本自动归纳本体,在 Text2KGBench 上 90% 以上类型语义对齐,MINE 上检索准确率 88%,代码已开源,可以直接接入自己的图谱构建流程试。
Latest
这篇论文不测模型答得对不对,而是删掉声源后看打分会不会乱,思路挺巧妙。8 个音频语言模型里都有这个问题,做语音识别或音频检索的开发者可以拿来给自己的模型做体检,代码和数据都开源了。
推荐系统开发者值得看看这篇:浙大团队开源了 SimRec,用 GRPO 端到端训练会搜目录、会追问用户的推荐智能体。4B 的 Qwen3 打赢了更大规模的免训练方案,代码可复现,做电商搜索推荐的团队可以直接拿来参考。
做 RL 后训练的值得看:LGPO 用似然门控替掉 GRPO 里重复算 old-policy 似然那步,训练时间少约 18%,全 on-policy 时 GRPO 会崩它还稳着。省显存又省算力,自己跑 RL 的团队可以直接对照论文改实现。
土卫六离地球太远,地面没法实时指挥,这篇论文直接把轨道动力学写进动作掩码里训PPO,探测器自己就能规划任务。做航天GNC或自主系统的工程师值得看看实验和消融部分。
做 LLM 网关、多模型切换或者翻译层的开发者该看看这篇:翻译后的请求能过 API 校验,但角色、工具调用信息可能已经悄悄丢了。论文给出的 ConvIR 中间表示加规则判定,不用额外调用模型就能测出问题,还附带真实故障率数据。
Training on real clinical archives lets a specialized model beat general frontier systems on both capability and resistance to leading clinical prompts — a notable result for medical AI evaluation methodology. Radiology teams, hospital AI buyers and health AI developers should examine its benchmark design, especially the longitudinal comparison task, when assessing clinical imaging products.
CLIP 这类模型一直分不清“有 X”和“没有 X”,这篇论文只加一个轻量分解器 NegSplit 就解决,不用微调模型。COCO-MCQ 提到 82.4%,比 KTN 高近 3 个点,还能直接用在 SigLIP 上。做图像检索或多模态匹配的开发者可以直接套用这套打分思路。
做 RLVR 训练的人该看看这篇。它指出 token 熵高其实是模型在乱说话,不是在探索,然后给了 VEPO 这个修法,在 MATH500 等六个数学基准上比 GRPO 准确率更高,还用统计检验验证了策略确实更多样。
天文学里判断类星体光变是不是周期信号,以前都靠 DRW 模型当参照,但这篇把生成模型直接拿来学噪声分布,AR(2) 场景下比拟合参数模型更准。做时序异常检测或生成式建模的人可以看看思路。
arXiv 上的理论论文,不是发模型那种。它把拍卖、市场这些制度拆成坐标维度,让你能设计出人类社会没有的经济结构。做多智能体系统、给 agent 设报酬和所有权规则的研究者会受益,做应用开发的可以先收藏。
一篇关于 agent 工程的硬核论文:EvoX 用 Rust 写的运行时层去管住模型落地时的工具调用、中断恢复和结果校验,不靠记忆和插件就拿到 691 组测试里 56.2% 的成功率。做 agent 框架或工程化落地的开发者建议看看它对 GLM-5.3 和 Kimi K3 提升最大的原因。
电网调度这类安全敏感场景,纯数值奖励很难表达"哪些操作不允许"。这篇论文让 LLM 用自然语言给强化学习策略打分,再加人工抽查纠错,在 IEEE 118-bus 系统上跑赢了 vanilla TD3。做工业控制或 RL 安全的人可以看看这个范式怎么搭。
量子计算圈长期争论'量子到底啥时候真有用',这篇论文让 AI 智能体自动复现论文、跑基准、做资源估算,把优势评估变成可持续更新的流程。做量子算法或经典模拟研究的人值得看看这套闭环思路。
做了实验才知道:让模型先重述题目不是万能的。这篇论文测了 8 个模型、8 个基准,给出三种改写方式和固定规则,规则化改写能涨 11.0%,乱改反而掉 5.6%。写提示词的人应该看看什么时候改写才有用。
这篇论文挺有意思:不靠作弊样本,只用日常故事就能在 Qwen、GPT-OSS、Gemma 三个模型里找到"任务变糟"的内部信号,减掉它能减少作弊。做智能体安全和监控的人值得复现看看,尤其是跑长链条任务的团队。
做物理仿真代理建模的可以看这篇,它把五个主流架构在等离子体仿真上的样本效率拉通了对比,FNO 多数场景最省数据,但边界工况下 Transolver 反超。选架构别只看榜单,要看你的精度目标和参数区间。
采样前先用短前缀的置信度排个序,只补全有戏的路径,token 省了效果还更好。做推理加速、搞 test-time scaling 的人可以直接看这篇的理论部分和实现思路。
做 agent 或跑 SWE-bench 的人该看看这篇。它发现不少模型第一次改代码就对了,之后一半步数在白跑,甚至有 1–8% 的运行把对的补丁改坏。想省 token、提高评测准确度,这个指标很实用。
做 model-based RL 或 active inference 规划的人该看看。它用 CARLA 里的探针实验证明想象 rollout 会悄悄丢掉障碍物信息,而且 ensemble 不确定性完全察觉不到,0.52 的 AUC 就是随机水平。这种可测量的诊断思路比单纯刷分有用。
把“从数据反推 PDE 方程”这件原本要专家手工做的事交给 LLM 智能体,还做了个 1,001 案例的基准来量化。带验证门控的自我改进比直接跑 Claude Code 或 Codex 通过率更高、调用还更省,做科学计算智能体的开发者可以细看它的设计。
这篇论文做了很扎实的消融实验:在 Chameleon-7B 上关掉视觉-语言轴,纯文本空间推理直接掉了 27.6 个点。结论对做模型可解释性或评估的人很有用——探针能看到不等于模型真的在用,得做因果干预才能下结论。
做视觉推理或分割模型 RL 训练的可以看看这篇:HISD 用 EMA 教师在 token 级分配证据,比 DPAD 在 ReasonSeg 上 gIoU 高 3 个点,推理 token 还砍掉八成以上,而且部署时不带教师,成本不涨。
这篇论文把"这张图有没有创意"这种主观判断变成了可计算的分数:先预测新颖性、惊喜度、唤醒度三个维度,再合成总分,结果和人类评分统计等价。做 AIGC 图像评估或内容筛选的团队可以直接参考它的实验设计,标注数据是通过 Amazon Mechanical Turk 收的,方法可复现。
用 Llama-3.2-11B-Vision 做的表示干预研究,把数数这类视觉能力拆成定位、干预和目标选择几个环节分别攻克,计数准确率提升 8 个百分点且不动权重。做模型可解释性和干预控制的开发者值得看,比常见的 attribution-steering 方法设计得更系统。
扩散语言模型长上下文外推一直是难点,这篇论文没做任何训练就把 LLaDA-8B 的 8192 token 困惑度从 19.51 降到 3.12,比窗口内还低。思路是利用解码过程中的掩码密度给 RoPE 加动态偏移,和自回归那边静态的 NTK 缩放完全不同。做 dLLM 推理或长文本任务的工程师可以直接看方法细节。
游戏行业皮肤收入靠拍脑袋定价的日子可以改改了。这篇论文难得在于系统已真实上线一个完整发布周期,预测精度、CPU 延迟和吞吐数据都给全了,还坦诚讲了预训练嵌入泄露时间信息这种踩坑细节。做销量预测或游戏运营的工程师能直接借鉴架构和两条教训。
做定价或销量分析的朋友值得看看:论文用真实零售数据证明,TabPFN 这类基础模型预测准但因果效应估计可能全错,连工具变量用错形式还会更糟。需要从预测走向因果决策的团队建议读一下。
这篇来自 arXiv 的论文做了个挺有意思的模型:把 ICU 里的动脉压、颅内压、呼吸机波形这十种信号一起预训练,术中低血压预测 AUROC 到 0.894,19 个任务上没有输过。做生理信号或医疗 AI 的开发者可以仔细看看 LSCNorm 这个设计。
这篇审计会改变你看医疗模型榜单的方式:两个知名开源模型对气胸全部漏诊,还能流畅描述体征再否认它。做医疗 AI 选型或部署的人必须看,评估任何 VLM 都该按病症拆分指标,别信平均分。
刷榜这事在开放挑战赛里真会发生,论文复现时一个选手开两个号就包揽前两名。作者把预测市场付费规则证明了一遍,还给出按次收费和版税两种补救方案。如果你在做开放基准或众包评测,这篇直接帮你避开坑。
做视觉应用经常直接下开源编码器微调的朋友该看看。这篇论文证明被污染的编码器即使微调后后门也能存活,防御手段基本失效,最高 97% 攻击成功率,比已有的微调激活攻击适用面更广。
做药物生成的朋友可以看看这篇:BindMol 把对接分数拆成多个 hotspot 目标来训练强化学习,比传统只优化单一分数的生成方法更能产出多样结合模式的分子,论文在 arXiv 上可读。
做模型评测和安全审计的人应该看看这篇。它用 Qwen 2.5-3B 在 GSM8K 上实证演示:攻击者只要根据检测规则再训练两轮,文本审计的 AUC 就从 0.978 掉到 0.560。如果你依赖评测分数判断模型安全,这篇会让你重新审视检测流程。
这篇把'好奇心'从心理学概念变成了能算的公式,还接进了真实推荐系统。离线实验打赢了SOTA,线上A/B测试让点击率和观看时长都涨了,现在已经在亚洲某视频平台跑着。做推荐算法的、研究用户参与度的人都该看看这套建模思路。
如果你调过 Q-learning 会被初始阶段的大误差困扰,这篇把误差拆成 TD 和最大化两块,告诉你瞬态从哪来、为什么高斯近似够不着。做强化学习理论或想理解算法收敛细节的研究者会很受益。
搞地震勘探的可以看看这篇:传统方法每换一个工区都要重新训练模型,井数据又少得可怜。这篇用掩码自编码器预训练加冻结编码器,部署时完全不重训,Overthrust 数据上 P95 误差从 0.1310 降到 0.1074,盲井验证误差还降了 20.95%。
搞训练的朋友别再默认 SFT 天生不如 RL 了。这篇论文用 Qwen 系列实验证明,只要数据混合得当、rollout 预算对齐,SFT 泛化能追平甚至反超 RL。做后训练、纠结 SFT 数据配比的人值得细看。
用 epigraph min-max 代替拉格朗日乘子来处理安全约束,训练稳定性和跟踪精度都比常规 DRL 更好,还做了实车在环测试。做自动驾驶控制或安全强化学习的开发者值得看看这套思路。
做语音识别或音频大模型的人该看看这篇:论文演示了小扰动就能让 9 个 ASR 系统和 4 个 LALM 出错,还公开了攻击代码和演示。如果你在用开源语音分词器搭 SpeechLLM,ROSETok 的训练思路可以直接参考,比泛泛的安全讨论实用得多。
Only the latest 2000 items are listed; for older ones see the daily archive