做强化学习的可以看看,17 种鲁棒 RL 算法统一到一个库里,还带 273 种扰动配置的基准测试,省得自己一个个复现。
Papers
一组研究者做了个手持设备 DexPort,不用机器人也能采灵巧手演示数据,野外数据把成功率从 36% 拉到 78%,做机器人操控的可以看看。
一篇少样本工业质检的论文:只用几张正常图,单步流匹配就能在 MVTec-AD 上拿到 97.8% AUROC,代码也开源了,搞缺陷检测的可以看看。
有人拿自己 739 封真实邮件做实验,发现简单逻辑回归分类比 LLM 准,但放到实际动作里反而更常漏掉要回的邮件,结论很反直觉。
做 RL 训练的朋友看看这篇:不用重写训练框架,只在 RoPE 那条路保留 FP32 中间量就能防崩溃,四个 Qwen 模型都验证过了。
推荐系统方向的朋友可以看看这篇:两个蒸馏目标函数让并行语义 ID 推荐超过 SOTA,IDM 提 Recall@10 超 15%,思路挺巧。
机器人 VLA 卡住不用重训,一个 0.48-0.88% 参数的小头就能让 π0-FAST 它们在 LIBERO-Long 上失败率降近一半,思路很巧。
一群理论研究者把学 ReLU 线性组合的时间复杂度压到了多项式级别,之前没人做到。做学习理论或理解网络可学性的人可以看看这篇的 boosting 和 Hermite 张量技巧。
一篇把非线性滤波问题用 PDE 和算子学习来解的论文,ZENO 在 Lorenz、Van Der Pol 等系统上验证过,还跑通了线虫全脑数据,做科研的可以看看思路。
一篇改分词的论文:AdaBPE 能让 LaTeX 这类跨空格的结构化内容不被切碎,五个数据集上验证了效果。做 tokenizer 或训练模型的可以看看。
自动形式化里老方法判定等价太宽松,强证明器反而容易作弊。这篇给出更严格的判定规则,精确率能到100%,做形式化数学的可以看看。
Texas A&M 把物理约束硬塞进神经网络的开源框架,推理快还能严格满足约束,搞工程建模和优化控制的可以看看。
这篇论文把 RL 里的估计问题换了个推荐视角,还证明了均匀采样就能达到遗憾下界,做 MCTS 或 bandit 的可以看看。
arXiv 上这篇讲地理位置编码怎么接入 Sentinel-1/2 双模态的论文,17 个任务里赢了 68.8%,做地理空间模型的可以看看。
一篇立场论文,讲联邦学习共享机器人纠正数据时可能踩的安全坑,还给了可证伪的评估清单,做机器人学习的人可以看看。
理论上讲清了多步预测为啥能帮强化学习省样本,还给出 BF-BOLA 算法和匹配的复杂度界,做 RL 理论的可以看看。
用 TopKLoRA 微调出的回路比普通 LoRA 小十倍,还能精准切除后门而不伤指令能力,做模型安全和可解释性研究的值得看代码。
一篇军用方向的论文:作者用机器学习取代传统的静态 WEZ 距离分区,预测超视距空战中导弹的杀伤概率,连目标随机机动都算进去了。
算了一笔很实在的账:Chronos-2 什么时候比传统模型划算、剪掉 7.9% 参数还能省 9% 碳排放,做时序预测部署的可以看看。
一篇关于省 token 的论文:HarnessMM 把 Agent 已经决定过的动作存起来直接复用,DeepSeek harness 的 token 用量直接降到原来的 12%。
给模型解释的可信度做了套量化测试,GPT-4o-mini 表现最稳,DeepSeek 反而翻车,做可解释性研究的值得看看具体指标设计。
这篇论文找到了干预思维链的最佳时机:开头两三个 token。在 DeepSeek-R1-Distill-8B 上把安全输出率从 29% 拉到 82%,权重还不用动。
卫星影像压缩成的向量到底装了什么?这篇论文拆开看了,能从中恢复火灾和作物信息,做遥感或生态监测的可以看看。
一篇冷静的方法论论文:用 ROC-AUC 0.839 对 0.559 这些实验数据说明图表示的优势可能只是混淆变量,做图模型解释的同行可以看看。
对分子生成或图生成感兴趣的人可以看这篇:把动作序列当条件,MOSES 有效率从 92.8% 涨到 99.2%,还有配套交互式讲解页面。
搞运筹或决策优化的朋友可以看看,这篇把 PtO 和 GtO 两条路线的 regret 边界和凸性权衡讲清楚了,选方法前能少踩坑。
ECMWF 把神经网络塞进 4D-Var 里在线学模式误差,顺序学习过拟合、批量版能泛化,做气象 AI 的人可以看看这套训练思路。
一篇 arXiv 论文提出 Ariadne,不用重新训练就能把微调效果迁移到不同大小、不同结构的 Transformer 上,比 rebasin 方法更快更省内存。
I-JEPA 表现不如 SimCLR 的原因找到了:预测器太窄,加宽后直接反超,还附了模拟器和模型可以自己跑。
arXiv 上这篇论文提出新的概念擦除方法,不用目标标签就比监督方法擦得更干净、损失更小,还能免费做表示转向,做隐私或公平性的开发者可以看看。
一篇提出预摊销 Thompson Sampling 的论文,把决策优化提前算好,还能用信息增益做 IDS 策略,做序贯实验设计的人可以看看。
一篇量化对比 VQC 与 GAE、VGAE 等经典方法的论文,数据是 383 个 Tor 主机的真实链接图,想看量子模型和经典图模型差距的可以细读。
统计学者看过来:这篇把随机森林思路搬进多状态生存分析,不依赖 Markov 假设也能算转移率,还有现成 R 包 JumpForests 可以直接上手。
一个 6B 激活 0.5B 的 MoE 模型,跑循环层数就能切 5 档推理深度,小预算也能拿到 89% 的深度增益,挺实用的思路。
物理版科研能力测试题,63 道复现加 43 道发现题,最强模型闭卷也只有七成多正确率,还有合成数据能白嫖涨 11 个点。