Latest
测了 18 个模型、330 万次调用,发现 LLM 偏袒自己人不是看标签,而是看别人怎么做,挺有意思的结论。
论文教你看 agent 失败原因来决定改运行时框架还是微调模型,Qwen3.5 上从 0.16 拉到 0.30,做 agent 的都该看看这套诊断方法。
研究者拿德语 ASR 做了 40 次微调实验,发现小词表时按音节切分能扛住方言和口语场景,做多语言语音的可以看看选词表的思路。
arXiv has a new theory paper on machine unlearning, proving that Gaussian noise plus GDP can certify that models after sequential deletion are nearly indistinguishable from retraining, with quantitative bounds on how much less noise is needed for the random walk solution.
一篇挺有意思的方法论文:把等价的修复方案归到同一个机制里再去做探索,在2212个代谢模型上把成功率从17.93%提到20.10%,思路值得做科学发现方向的人看看。
这篇论文说伪标签共识想有效,得让模型看不同的证据。他们在 Cora、CiteSeer、PubMed 上把伪标签精度最多提了 4.39 个百分点,做图学习可以看看。
这篇论文用三种子对照实验证明 T-SBI 的光照线索并不提升换脸检测,还会让固定阈值比较失真,做深伪检测的人应该看看阈值那部分。
这篇论文把无监督学习拆成四个目标,分别对应密度估计、生成、特征提取和数据分析,做研究或选方法时能帮你对号入座。
有意思的尝试:Jev 不生成文本、一次前向就出答案,论文让它当参考策略、探索裁判和回放评分器,MiniGrid 和 Atari 上都跑赢了标准 RL 学习器。
做深fake检测的同学看下,这篇用 FaceForensics++ 和 Noiseprint++ 实测:噪声指纹融合 RGB 不涨点,还指出了 InstanceNorm 抹掉信号的具体原因,避坑参考。
生成出复制图之前就能查出扩散模型背了哪些训练数据,CelebA 和 Stable Diffusion v1.4 上的数字都给出来了,做模型审计的可以看看。
这篇论文挺实用的:想给大模型做 Laplace 近似的话,小模型上调好精度直接搬到大模型,7B 模型最高能省 330 倍搜索量。
这篇论文做反欺诈的同学可以看看:Evi-VN 不再造新检测器,而是专门修正各种 GNN 都会误判的那批难样本,还用上了文本、图像、音频证据。
一个从数据、工具到权重全开源的 Lean 4 定理证明器,用 AlphaProof 万分之一不到的算力拿到 MiniF2F 50.8% pass@16,搞形式化验证的可以自己复现了。
做因果推断或用文本嵌入做检验的值得看看:论文解释了为什么用嵌入代替原始变量会出偏,还给了个能控制偏倚的稳健检验。
一篇自动驾驶方向的论文,把 X-TRACK 的不确定性从运动空间一路传播到轨迹空间,还用 conformal prediction 做校准,highD 数据集上精度也涨了。
一篇 MoE 训练论文:把固定 top-k 换成在 k 附近随机采样,Qwen3-30B-A3B 微调能多拿 2 分,推理成本不变。
一篇联邦学习理论论文,提出的 PF-LSA 算法不用预知异质性程度,就能同时拿到个性化收敛和线性加速两种保证,做 TD 学习的可以看看。
这篇论文把机器人模型的历史上下文拉到 19.2 秒,动态杯子堆叠做到 95% 成功,Pi0.5 一个都做不成,方法细节写得很清楚。
机器人叠衣服老是在抓错后硬着头皮做下去,FoldBack 能检测失败、回滚重试,33 件衣服测试成功率 75.2%,比之前最好的基线高出一大截。
一篇解决智能体“读完文件就忘”的论文,让环境而不是模型来记账,避免报告漏掉已提取的数据,思路挺新颖。
搞分布式训练的可以看看这篇:它证明了裁剪过的去中心化 SGD 在重尾噪声下收敛率最优,还首次给出了线性加速证明,并解释了为什么裁剪比归一化更适合去中心化场景。
这篇 arXiv 论文证明了一个反直觉结论:想让模型“只给模型就能删数据”,可能得让它记住几乎全部训练集,对做遗忘的研究者很有参考价值。
搞理论的朋友可以看看:平滑在线学习里第一个不需要知道数据分布的高效算法,遗憾界 Õ(d√(T/σ)),还很省心免调参。
有人拿架构搜索重新跑了一遍已发表的湖泊藻华分类模型,参数少了26倍,AUC还从0.790提到0.820,配方和小代码都开源了。
工程师做需求侧灵活性建模的可以看看:NeuralBES 用神经网络参数化 RC 热模型,比 EnergyPlus 快、比黑盒模型物理可信,参数还少一个量级。
加速度器束流预测上 CRPS 降了 65%,还能连续跑 400 多步预测不崩,做时序概率预测的可以看看这套自滚动训练思路。
用 CFM 几秒生成城市三维风温场,风速误差 2.99%,大涡模拟要跑很久的活它秒出,做城市微气候设计的可以看看。
训练完 RL 模型想追查是哪条数据教会它某个行为?这篇直接证明现有归因方法大多被梯度大小和流畅度这类干扰项骗了,还给了套评测清单。
给 TTS 加了个情绪旋钮,不用重新训练模型,注入转向向量就能调情绪强度,Qwen3-TTS 上效果最高提升 7 倍。
机器人世界模型也有缩放定律了,8B 参数的 RoboJEPA 能用计算量预测真机表现,还能零样本规划长时程任务,代码全开源,搞具身的建议看看。
这篇论文提出 Ledger,让具身智能体能记住你放过的东西在哪,HD-EPIC 准确率从 29.7% 拉到 42.6%,做空间记忆方向可以细看。
Only the latest 2000 items are listed; for older ones see the daily archive