一篇 arXiv 观点论文,指出 RLHF 和 DPO 默认要集中数据的设计在医疗、法律等场景根本走不通,还给出了分布式对齐的技术路线。
Latest
训练机器人策略想挑最好的 checkpoint 又不想真机一遍遍试,这篇 arXiv 论文给出的 RACE 指标用成功轨迹就能校准打分,实测排名和部署成功率对得上。
测了六个主流模型谁能模仿你的文风,结果 Gemini 3 Pro 分数最高,其实是靠大段抄原文,得辨别真假模仿。
一篇有意思的论文:把视频扩散模型拿来学潜在动作,每帧压到 4 个 token,人类和机器人的动作能互相迁移,在 LARY-Bench 上拿了最优。
一篇文章把研究方向从'让机器更聪明'转向'让人的能力被放大',提出了认知共生体的完整设计框架,做 AI 产品方向的人可以看看。
Speculative decoding is usually tuned for speed, so the finding that acceptance choices can silently shift reasoning accuracy across long agent runs is a practical surprise. Developers building multi-step agents can adopt this training trick to improve reliability without touching the target model's weights or outputs. The parameter cost — under 0.3% — makes it feasible even for teams serving open-weight models.
让 Claude Opus 5.5 直接读神经网络权重、盲找放疗筛查网络的 bug,16/18 找中,还只改 3 个参数就修好,挺新鲜的做法。
医学物理计算出新基准了,1200 道题里 Claude 系列算得准但查错翻车,做医疗 AI 的可以看看自己模型的真实水平。
用编码智能体在仿真里批量造机器人训练数据,成绩反超遥操作真数据,一小时成本 107 美元,比中美两地人工都便宜,做具身智能的可以细看。
给做 LLM 推荐的朋友:HARP 不训练就能在四个基准上把 Hit@1 拉高 6.9%-24%,物品画像和检索侧门控的思路可以直接借鉴,代码开源了。
有人在 arXiv 论证固定人设模拟人群天生有缺陷,还给出了改进设计和实测结果,做用户模拟或评估的可以看看。
用真实 NWS 警报测 Claude 天气管道,发现盲测下近四成回答会错误安抚用户,还放出了数据集和代码可以自己复现。
Qwen2.5-7B 上的实验挺扎心:想让模型用目标语言答对题,最好的干预也只提升 1.60 点,做多语言的可以看看。
用两个 7B 模型分工干翻 32B 单体:一个负责拆任务,一个负责执行,在 WebArena-Lite-v2 上成功率 37.2% 对 24%,做 GUI Agent 的可以看看训练细节。
字节级模型不用分词器但太贵,这篇来自 arXiv 的 DeepMem 用多尺度压缩把计算量砍了约 7600 倍,效果还反超同规模 Transformer,做底层架构的可以看看。
做医疗预测模型公平性评估的可以看看,作者逐个分析了八种 AUC 公平性指标,哪些能用、哪些有坑都讲清楚了,还给了 EuroSCORE II 的模拟例子。
一篇对齐方法的复现研究:用纳什均衡思路微调,8B 模型干过了 70B,还验证了不用 GPT-4o 标注也行,做对齐的可以看看。
机械臂逆运动学一直靠手工调控制器,这篇论文用强化学习把误差压到 1mm 以内,还能直接给 π₀.₅ 这类 VLA 策略当下游执行器,做机器人方向的可以看看。
UT Austin 的机器人团队做了个 GUILD 框架,一边让 VLM 挑任务一边评估数据价值,采数据比老手工程师还高效。
研究者把模型“越训越坏”的问题做成了可测量的框架,还给出 PEARL 这个 GRPO 改进版,做对齐或安全微调的可以看看怎么压制不良行为不反弹。
有人把 transformer 改成量子测量模型,解释不再是猜的,词的贡献能精确加和,还在 IBM 量子计算机上跑通了。
一篇理论论文,把判别式学习和生成式不可区分这两个看起来不同的任务证明成复杂度等价,做学习理论的朋友可以看看证明思路。
这篇论文把 ICL 的每一步都拆开了,用 patching 证明哪层头在存演示、哪层头在查标签,机制可解释性方向的可以细看。
论文提出 CATF 框架,Manager 硬路由把任务分给专职 Worker,200 组对比里 162 组赢过单模型,还胜过 Time-MoE 15/20。
天体物理里的引力波信噪比计算向来很费算力,这篇用一个小模型把百万次评估压缩到几秒,做引力波种群研究的人可以直接拿来用。
.looped 模型参数省但 KV cache 爆炸,这篇提出 0.5bit 量化方案,SGLang 实测吞吐最高涨 6.1 倍,做部署的可以看看。
一页理论论文,把 1995 年的 hardcore lemma 推广到任意凸损失和多类分类,还和 omnipredictors 对上了,做学习理论的朋友可以看看。
机器人 RL 训练的新正则化方法,19 个任务上把成功率从 33% 拉到 95%,代码已开源,做机器人策略优化可以看看。
预测模型一上线就改变用户行为,置信区间还算数吗?这篇论文给出了明确答案和算法,做风险敏感应用的人可以看看。
PINN遇到带孔洞的偏微分方程就翻车?这篇arXiv论文用Hodge分解和de Rham上同调给出修复方案,还拿Aharonov-Bohm效应做了实验验证。
做 RL 训练的朋友可以看看这篇:用判分模型的文本反馈做自蒸馏,专门救那些普通 RL 优化不动的奖励,还讲了怎么防止训练震荡。
一篇理论算法论文,核心是把高斯划分用作学习原语,把 k 个 halfspace 学习的维度依赖从指数降到多项式,还配上了匹配的 SQ 下界,做学习理论的可以看看。
一个只有 31 万参数的 CRF 模型,肽测序准确率超过 Casanovo v5,速度快 55 倍,CPU 就能跑,做蛋白质谱的分析师可以看看。
无人机音频检测的论文,发现常用数据集随机划分会虚高约2-3个点准确率,换成按来源划分的协议后测得更真实的成绩。
一篇联邦学习理论论文:worker 数量超过一定规模时,普通加权平均会失效,但加上服务器自己的数据就能救回来,还给了具体的样本量条件。
Only the latest 2000 items are listed; for older ones see the daily archive