Papers
论文把进化搜索的框架本身也变成可进化对象,用 UCB 调度器决定改哪个模块,在 8 个多目标优化任务上跑赢了现有基线,做组合优化的可以看看。
这篇论文把 Jupyter 里你和 AI 的每次对话都存成可回放、可查询的结构化数据,还能算出求助和学习行为指标,做 AI 协作分析的人可以看看。
一篇把机构拆成模块再学的研究,同样数据量下预测效率高了 1.8 倍,做结构化学习或 CAD 生成的话有参考价值。
Google 放出一个 36 小时视频的音频描述数据集,专门测模型生成的旁白能不能塞进视频静默间隙,盲人用户实测说很有用。
一篇域泛化分割的新论文,用频谱建模统一处理 CLIP 加 DINOv2 的特征融合和解码精修,恶劣天气等场景成绩超 SOTA。
arXiv 新论文,测了多个模型怎么评估"重音"理解,发现大模型上直接问比算概率更稳,做模型评测的可以看看。
阿里的广告智能体不用微调模型,靠自动改知识库就把成绩从30.19提到39.15,还能跨领域复用,做Agent的朋友可以看看思路。
一篇从哲学角度讨论人和LLM关系的论文,把LLM和宗教文本这类语言造物放在同一脉络里分析,角度挺少见的。
搞自动驾驶感知的朋友可以看看,这套 Docker 化框架接模型只要写一个 loader 函数,PGD、LiDAttack 这些对抗攻击开箱即用,代码开源了。
这篇论文针对医学影像诊断模型瞎猜答案的问题,用熵门控的强化学习把训练火力集中在模型最拿不准的病例上,六个基准涨到 61.2%。
一篇解决自动驾驶里行人意图预测不确定性的论文,eCoMAE 在 IMPTC 上 OOD 准确率从 0.7971 提到 0.8068,四个轨迹数据集 MSE 全部最优,做感知预测的可以看看。
Most DP training spreads its privacy budget uniformly across iterations, and this work proves that allocation, not just total budget, can be optimized with provable stability guarantees. Practitioners training differentially private models — from healthcare to finance teams subject to data-protection rules — can use the square-root allocation law or the PB-AMD method to squeeze more utility from the same certified privacy cost. The reduction to projected gradient descent comparisons makes the approach directly implementable.
一篇 RL 训练新方法:把数学题拆成子问题当奖励里程碑,Qwen2.5-Math-7B 在 HiMath 上从 30.4% 涨到 45.6%
Qwen3.5 上的低比特量化新论文,GGA 加滑动窗口比 STEPQuant 高 40 个百分点,还能让输出短三分之一,做长上下文部署的可以看看。
一篇联邦学习论文,思路是让各客户端不用交换数据也能收敛到行为兼容的共享模型,在 gas 传感器任务上比 FedAvg 高了约 1 个点。
把 ESM-2 的蛋白表征当条件喂给分子生成模型,一次生成整个 PROTAC 而不是只生成连接子,做药物设计的可以看看这篇。
一篇蒸馏方法论文,把 DMD 加上 Sinkhorn 最优传输修正,Qwen-Image 和 Wan2.1 上 2-4 步就能出图,多样性还比 DMD2 好。
Turing 这篇论文讲怎么把多个专家模型蒸馏进一个 MoE,80 多行细节,还把训练步骤快了 2.86 倍,做训练的人可以看看。
有人做了个注意力替代方案 Dynamic Wave,但真正有意思的是发现:效率优势换个注意力内核就没了,循环层省不省全看实现。
这条研究挺反直觉的:靠'惊讶'挑学习内容,模型反而最容易学进谎言。想给 LLM 做持续学习、知识更新的开发者值得看看这四个发现。
欧洲团队用符号回归预测母猪分娩时间,误差9.28小时还能给出可读公式,比神经网络更透明,搞可解释AI的可以看看这个跨界案例。
这篇论文提出了 FedASTRA,解决联邦超图学习里跨客户端超边匹配难题,还给出了性能和通信量的理论分析,做图学习方向的可以看看。
训练深度伪造检测模型时想用联邦学习保护隐私?这篇论文用 EfficientNet-B4 做实验,告诉你数据异构到什么程度 Grad-CAM 的解释会不可信。
搞系统或图计算的朋友可以看看,这篇把预取器的记忆访问预测历史拉到 128、跨度拉到 512,节点打乱都不用重训,CC 图上还留 95.4% 的 F1。
把2019年那个带log的遗憾界做到O(√(KL*)),一个算法同时拿下stochastic和adversarial两种场景,做bandit理论的别错过。
这篇理论论文回答了 MDM 为什么并行生成还能靠谱:只要信源满足条件混合,样本量不随序列长度涨,膨胀调度还能把步数从 Ω(N) 压到对数级。做扩散语言模型的人值得看。
训练 MoE 模型卡在路由坍缩上的可以看看,这篇把概率恢复要多久推成了对数或幂律,还有对照实验验证。
arXiv 上的一篇量化研究,专门解决 Mamba 这类线性递归模型的低精度推理问题,在 Mamba-2 和 Nemotron-H 上验证了效果。
有人发现 Evo 2 的 DNA 模型换了新 GPU 就算不准了,还写了个模拟器救回来,做模型部署的可以看看
训练超过单机显存的模型时,Muon 这类优化器会被跨卡通信拖慢,这篇论文的 Dobb 把矩阵更新改成块内本地计算,H100 上优化器调用从 124ms 降到 9.2ms,做分布式训练的可以看看。
训练用的监督信号会让评估指标悄悄虚高,这篇论文发现新类准确率能被高估 25 个点,还给了修复的评估和训练方法,做半监督聚类的值得看看。
MCU 上跑储层计算的话这篇很实用:不用查表的激活函数,速度是 tanh 的三分之一不到,NARMA-20 上误差还降了 22%。