研究团队发现 GaLore 这类低秩优化器做 2 bit 量化训练会掉点,于是提出 ResQAdam,优化器显存省七成多,速度几乎不掉。
Latest
用Mamba加Fourier做PDE求解,比attention基线误差更低、参数还更少,搞科学计算的同学可以看看架构设计。
训练 PINN 时总有一项损失压不住?这篇把 Adam 里各任务的贡献演化讲透了,还给出 GMAdam 这个即插即用的改法,实验里比 AdaTask 更准。
MCMC 采样遇到各向异性目标就拉胯?这篇把 Fisher 信息从预条件子升级成排斥侧最优矩阵,各向异性场景 ESS 直接翻倍,理论保证也给全了。
这篇 arXiv 论文做了个 PHANTOM-Bench,发现 9 个模型在多智能体讨论时会被模糊的同伴信号带偏,准确率最多掉 47.8 个点,做 Agent 系统的该看看。
一份开源的生理信号基础模型,EEG 在 9 项指标里 8 项超过 LaBraM 和 EEGPT,延迟还降了最多 7 倍,做脑电或肌电的可以直接看代码。
三个智能体分工修 CUDA、OpenMP、SYCL 代码翻译,正确率全面超基线还省了一半多的 token,做 HPC 的可以看看思路。
团队给智能体自我改进做了个正经基准,executor 和 improver 分工迭代改自己的 harness,用固定预算对比闭源和开源模型,结论挺有料。
一篇 RL 论文,作者给 PPO 的固定裁剪换了玩法:每个 minibatch 里排序挑出极端比率,单独给自适应半径,MuJoCo 和 Atari 上跑赢了基线。
一个新的设计类 Agent 基准,Astra 全跑完但违规多,Claude 少做几个却更稳,论文本身还很克制地说明评测局限。
Stanford 把稀疏自编码器用在临床影像和检验数据上,挖出了397个可解释的疾病相关概念,代码开源了,做医学AI的可以看看。
想给公司写季度报告或学术综述的可以看看,这论文把“照着旧版格式填新内容”做成了 120 道题的基准,还测出了开源模型和 GPT 这类闭源模型的差距在哪。
家庭机器人光聪明还不够,这个新基准专测它会不会瞎操作——六款 VLM 最高才 61.9 分,做机器人研究的可以关注。
Fixed-role fused kernels leave idle windows because a predetermined communication-compute split cannot track actual data readiness; KOSMOS replaces static schedules with demand-ordered queues that adapt at runtime. Engineers training large MoE models on AMD Instinct hardware can apply it directly through Megatron-LM, where it outperforms DeepEP by up to 1.83x on DeepSeek-V3 and Qwen3-235B proxies.
几百个小智能体在潜在空间里群聊协作,几分钟跑出别人一小时的搜索结果,还用 Qwen3 8B 改进了 AlphaEvolve 的解,省钱又快。
搞 ML 复现的可以看看:一个 agent 工作流把论文代码整理成标准复现包,四个模型成功率都冲上 90%,API 花费还省了近两成。
一篇解决医疗助手记忆混乱的论文:把患者事实建成带时间的图,在 MedMemoryBench 上比五个基线高出约 10 分,做医疗对话的可以看看。
一篇聊怎么把聊天界面开放给 AI 的论文,还做了 Meta Chat 原型,对做 AI 界面和 MCP 工具的人很有参考。
研究者给机器人 VLA 模型做了个潜层探针 VLA-Tug,能提前发现失败、还能预测失败原因,附带 3,180 条标注数据集。
这篇论文把 Terminal-Bench 2.0 翻出来查了一遍,三成任务有问题,修完之后各模型排名都会动。做评测的人应该看看他们的持续验证流程。
有人把ICU患者的电子病历训练成世界模型,一次建模就能模拟床位、调度、转院多种政策,比传统Markov模型多捕捉恢复速度差异。
给联邦学习开发者看的新玩法:Claude Opus 5.5 每 10 轮看一次客户端权重,自己写聚合代码,168 次实验显示比 FedAvg 高 1.26 个点,一次才花 0.79 美元。
一个专测鼻咽癌诊疗全流程的医学基准,30 个模型里最强的严格成功率也只有 23%,能看出模型和真实医生差距在哪。
做机器人感知仿真的可以看看这个 VisionSIM,它把 LiDAR、iToF、事件相机这些传感器的真实失效模式都模拟出来了,还开源了数据集。
搞对抗训练的人可以看看这篇理论分析,它证明了用大步长训练也照样成立,不用非得用慢吞吞的小步长。
推荐系统工程师可以看看这篇:用 SAE 把黑盒用户嵌入拆成可命名的行为模式,还能零样本圈选受众,不用改上游模型。
把 1000 篇论文做成 AI 科学家能跑的实验环境,还测出它在 74% 场景下跑赢人类作者,训练数据也开源了,做科研智能体的别错过。
把 PyTorch 仓库自动改成 JAX 版的智能体测评,Claude Opus 5 通过 75%,其他模型差距挺大,做工程自动化的可以看看。
一群研究者做了个叫 MAEM 的元模型,能把 Qwen3.6-27B 里任意残差流方向翻译成人能读懂的文本,还比语料搜索和 NLA 更准,解释能用一次前向传播验证,可解释性方向值得看。
做意图路由或分类的朋友可以看看:同一模型换个标签写法,准确率能差这么多,论文还给了四个评测坑点。
The survey's value lies in its proposed evaluation framework and its six-way taxonomy of research orientations, which gives structure to a field that has grown mostly through scattered techniques. Researchers and safety teams can use the released notebooks to reproduce methods hands-on rather than reading only about them. The comparison between mechanistic evidence and behavioural evaluation is a useful lens for anyone deciding whether to invest in interpretability tools over standard safety testing.
一篇偏数学的方法论文:不用推导符号方程,直接从微分方程数据里挖出连续对称性生成元,在 11 维基准上全部恢复,做科学机器学习的人可以看看。
搞微调和 RLHF 的朋友可以看看,论文讲清了 LoRA 在 SFT 和 RL 里动态为啥不一样,还给出了分阶段调法,实验在数学推理上验证有效。
研究不确定性量化的朋友可以看看:这篇证明了保形预测在时变偏微分方程上为什么会失效,还给了加权修正方案。
arXiv 上这篇把 Unitree G1 训练成能和人互相配合的伙伴,还能预判被挡住的同伴动作,260 小时交互数据开源了。
Only the latest 2000 items are listed; for older ones see the daily archive