搞自动驾驶感知的朋友可以看看,这套 Docker 化框架接模型只要写一个 loader 函数,PGD、LiDAttack 这些对抗攻击开箱即用,代码开源了。
Latest
这篇论文针对医学影像诊断模型瞎猜答案的问题,用熵门控的强化学习把训练火力集中在模型最拿不准的病例上,六个基准涨到 61.2%。
一篇解决自动驾驶里行人意图预测不确定性的论文,eCoMAE 在 IMPTC 上 OOD 准确率从 0.7971 提到 0.8068,四个轨迹数据集 MSE 全部最优,做感知预测的可以看看。
Most DP training spreads its privacy budget uniformly across iterations, and this work proves that allocation, not just total budget, can be optimized with provable stability guarantees. Practitioners training differentially private models — from healthcare to finance teams subject to data-protection rules — can use the square-root allocation law or the PB-AMD method to squeeze more utility from the same certified privacy cost. The reduction to projected gradient descent comparisons makes the approach directly implementable.
一篇 RL 训练新方法:把数学题拆成子问题当奖励里程碑,Qwen2.5-Math-7B 在 HiMath 上从 30.4% 涨到 45.6%
Qwen3.5 上的低比特量化新论文,GGA 加滑动窗口比 STEPQuant 高 40 个百分点,还能让输出短三分之一,做长上下文部署的可以看看。
一篇联邦学习论文,思路是让各客户端不用交换数据也能收敛到行为兼容的共享模型,在 gas 传感器任务上比 FedAvg 高了约 1 个点。
把 ESM-2 的蛋白表征当条件喂给分子生成模型,一次生成整个 PROTAC 而不是只生成连接子,做药物设计的可以看看这篇。
一篇蒸馏方法论文,把 DMD 加上 Sinkhorn 最优传输修正,Qwen-Image 和 Wan2.1 上 2-4 步就能出图,多样性还比 DMD2 好。
Turing 这篇论文讲怎么把多个专家模型蒸馏进一个 MoE,80 多行细节,还把训练步骤快了 2.86 倍,做训练的人可以看看。
有人做了个注意力替代方案 Dynamic Wave,但真正有意思的是发现:效率优势换个注意力内核就没了,循环层省不省全看实现。
这条研究挺反直觉的:靠'惊讶'挑学习内容,模型反而最容易学进谎言。想给 LLM 做持续学习、知识更新的开发者值得看看这四个发现。
欧洲团队用符号回归预测母猪分娩时间,误差9.28小时还能给出可读公式,比神经网络更透明,搞可解释AI的可以看看这个跨界案例。
低资源语言用户用 AI 要多花好几倍的钱,有的模型差到 17 倍,看完你就明白为啥非英语市场做 AI 更贵更慢。
这篇论文提出了 FedASTRA,解决联邦超图学习里跨客户端超边匹配难题,还给出了性能和通信量的理论分析,做图学习方向的可以看看。
训练深度伪造检测模型时想用联邦学习保护隐私?这篇论文用 EfficientNet-B4 做实验,告诉你数据异构到什么程度 Grad-CAM 的解释会不可信。
搞系统或图计算的朋友可以看看,这篇把预取器的记忆访问预测历史拉到 128、跨度拉到 512,节点打乱都不用重训,CC 图上还留 95.4% 的 F1。
把2019年那个带log的遗憾界做到O(√(KL*)),一个算法同时拿下stochastic和adversarial两种场景,做bandit理论的别错过。
这篇理论论文回答了 MDM 为什么并行生成还能靠谱:只要信源满足条件混合,样本量不随序列长度涨,膨胀调度还能把步数从 Ω(N) 压到对数级。做扩散语言模型的人值得看。
训练 MoE 模型卡在路由坍缩上的可以看看,这篇把概率恢复要多久推成了对数或幂律,还有对照实验验证。
arXiv 上的一篇量化研究,专门解决 Mamba 这类线性递归模型的低精度推理问题,在 Mamba-2 和 Nemotron-H 上验证了效果。
有人发现 Evo 2 的 DNA 模型换了新 GPU 就算不准了,还写了个模拟器救回来,做模型部署的可以看看
训练超过单机显存的模型时,Muon 这类优化器会被跨卡通信拖慢,这篇论文的 Dobb 把矩阵更新改成块内本地计算,H100 上优化器调用从 124ms 降到 9.2ms,做分布式训练的可以看看。
训练用的监督信号会让评估指标悄悄虚高,这篇论文发现新类准确率能被高估 25 个点,还给了修复的评估和训练方法,做半监督聚类的值得看看。
MCU 上跑储层计算的话这篇很实用:不用查表的激活函数,速度是 tanh 的三分之一不到,NARMA-20 上误差还降了 22%。
GPT 6 Astra 做数学题很厉害,但给它回溯国际象棋题,24 次只对 2 次,这个新基准专门测模型的纯推理能力,失败原因分析很有意思。
工业互联网上灾害种类不断冒新、样本又少,这篇论文的 CLAR 用潜在表示+注意力打分做回放式增量学习,还给了理论证明,搞边缘部署的可以看看。
论文把无人机俯拍画面直接变成红绿灯控制策略,不用路边固定摄像头,换路口也能用,比视觉基线平均减少 7-9% 等待时间。
这篇论文给出了让研究智能体和人类一起做研究的训练方法,还配套发了 HackBench 评测 reward hacking,做智能体训练的可以看看。
研究者把测量量子材料的活儿交给 AI 智能体自己规划、自己操作 PPMS 设备,还在 TaP 和 Co2MnGa 上跑通了,做材料实验的可以看看。
90人看了438个AI视频,靠眼动数据就能71.3%准确率预测观众觉得真假,做视频生成评估的可以看看这套方法。
arXiv 上这篇论文提出了 CopyLoop,不用重新训练就能给 Looped Transformer 解码提速最高 10.70 倍,在 6 个模型检查点上验证过,做推理加速的可以看看。
Only the latest 2000 items are listed; for older ones see the daily archive