全部 AI 动态 · AI 热点

7月1日

10:08

官方账号arXiv cs.AI@Zhaoyang Luo, Runmin Dong, Miao Yang, Fan Wei, Yushan Lai, Bin Luo, Haohuan Fu

论文提出一种操作级视觉令牌跳过框架，将Transformer层分解为注意力与FFN操作，选择性跳过冗余计算。实验覆盖3种MLLM架构（含Qwen3-VL）和10个VQA基准，实现精度-效率权衡：在Qwen3-VL上减少33.7% TFLOPs，保留99.5%的原始性能。关键发现是晚期视觉令牌更新对答案表示影响很小，且有效计算具有操作主导性和层依赖性。

论文 MLLM Qwen3-VL 推理加速

推荐理由：这篇论文告诉你如何在不牺牲性能的前提下大幅降低多模态大模型的计算量。他们在Qwen3-VL上砍了33.7%的算力，性能只掉了0.5%，方法很巧妙。

原文

09:59

官方账号arXiv cs.LG@Jason R. Brown, Patrick Leask, Lev McKinney

该论文系统研究了语言模型微调时的突现错位现象。作者在Qwen3家族多个模型上实验，发现优化器选择造成7倍的对齐率差异，而模型规模（1B-235B）影响可忽略。Muon优化器通过隐式正则化使LoRA适配器的奇异值分布更均匀，从而最好地保持对齐。额外添加谱正则化损失项可显著恢复Adam和Lion等易错位优化器的对齐性能。

论文 Qwen3 Muon Adam

推荐理由：这篇论文告诉你：选对优化器能把模型对齐率差7倍，Muon比Adam更靠谱，还能用谱正则化补救。

原文

09:58

官方账号arXiv cs.LG@Amel Bennaceur, Gopi Krishnan Rajbahadur, Prince Mercy, Bashar Nuseibeh, Faeq Alrimawi

该论文提出了REAL（Requirements Engineering for mAchines that Learn - and Fail）框架，用于系统化机器学习系统的需求工程。REAL基于三个原则：将数据、模型和系统的需求交织在一起；利用失败来驱动替代需求的探索；以及迭代且可追溯的需求精化。作者通过自动驾驶案例演示了框架的有效性，并提供了在线复制包。

论文 REAL 需求工程 ML系统

推荐理由：这篇论文提出了REAL框架，专门针对ML系统，用失败驱动对齐，自动驾驶案例很具体。

原文

09:57

官方账号arXiv cs.LG@Mark Levene, Martyn Harris

该论文研究神经网络对输入值随机噪声扰动的鲁棒性。作者提出一种基于高概率的鲁棒性度量，给出均方误差的上界，且将网络视为黑箱计算。在多个真实数据集上的实验验证了方法的有效性。论文还引入鲁棒性曲线概念，用于分析数据内部和跨数据集的鲁棒性特征。

论文神经网络鲁棒性输入扰动

推荐理由：这篇论文提出了一种计算简单的方法，能告诉你神经网络对输入噪声的容忍上限，还画出了鲁棒性曲线，帮你量化模型稳定性。

原文

09:56

官方账号arXiv cs.LG@Clément Fuchs, Tim Bary, Benoît Macq

本文对视觉-语言模型（VLMs）在自然图像分类任务上使用局部化共形预测（localized conformal prediction）进行不确定性量化。作者通过开源实现基准测试，发现直接使用测试样本与校准样本视觉特征的余弦相似度并不能优于非局部基线。他们提出一种简单的非线性变换，在保持边缘覆盖保证的同时，实现了统计显著的集合大小平均减少。实验在多个VLM上验证了有效性。

论文 VLM 共形预测不确定性量化

推荐理由：这篇论文发现直接用余弦相似度搞局部共形预测效果一般，但换个非线性变换后，预测集变小了，值得做VLM不确定性量化的看看。

原文

09:55

官方账号arXiv cs.LG@Ole Winther, Paul Jeha, Sander Dieleman, Andriy Mnih, Manfred Opper, Andrea Dittadi

这篇论文从变分视角系统介绍了随机微分方程（SDE）在生成机器学习中的应用。它推导了证据下界（ELBO）并作为讨论扩散模型、得分匹配和流匹配的统一框架。论文使用一维密度建模问题比较了不同参数化的效果。

论文 Stochastic Differential Equations 扩散模型得分匹配

推荐理由：想搞懂扩散模型、得分匹配背后的数学原理？这篇论文从变分角度讲清楚了SDE和ELBO，适合想深入理论的朋友。

原文

09:54

官方账号arXiv cs.LG@Zikang Yan, Xiao Wang, Qingquan Yang, Zhendong Yang, Gaoting Chen, Zehua Chen, Bo Jiang, Jin Tang, Guosheng Xu

传统有限元法(FEM)计算偏滤器温度场耗时且不适合实时应用。研究者提出物理感知神经算子Transformer(PNOT)，将边界热流关系建模为结构化图，利用图注意力捕捉空间物理依赖。PNOT通过物理感知神经算子模块聚合相似物理条件的查询点并模拟热扩散，结合梯度约束Sobolev正则化损失保证函数值与导数一致性。实验表明，该方法在EAST装置上实现了高精度温度场重建，物理约束显著提升预测保真度。

论文 EAST PNOT 温度场重建

推荐理由：东华大学团队用PNOT模型在EAST上搞定偏滤器温度场实时重建，比传统FEM快得多，还自带物理约束，做聚变仿真的可以看看。

原文

09:53

官方账号arXiv cs.LG@Georg Götz, Alessia Milo, Steinar Guðjónsson, Daniel Gert Nielsen, Jesper Pedersen, Finnur Pind

该论文对比了不同精度的房间声学模拟方法对多通道语音增强模型的影响。作者使用SpatialNet在基于几何声学、波动声学及其混合模拟的数据集上训练，并在实测数据上评估。高保真模拟数据集训练出的模型，中位数词错误率相对降低了38%。结果表明，高保真房间声学模拟能直接提升多通道语音增强性能。

论文 SpatialNet 多通道语音增强房间声学模拟

推荐理由：这篇论文用实验告诉你，声学模拟精度越高，语音增强效果越好，SpatialNet在实测数据上词错误率降了38%，训练数据质量是关键。

原文

09:52

官方账号arXiv cs.LG@Johan Land

该论文针对ARC-AGI-2视觉推理基准提出一种新求解器，将文本、图像和代码作为独立搜索算子生成多样候选轨迹，并通过上下文保留的整体判断模型在长上下文提示中联合比较所有候选。在ARC Prize半私有评估集上取得72.9%准确率，成本38.99美元/任务，超过GPT-5.2 Pro的54.2%和Gemini 3 Pro的54.0%。在公开评估集上达到76.1%，成本19.69美元/任务。作者开源完整代码，并报告了负面结果，如规定性提示模板和迭代细化会系统性降低假设多样性。

论文 ARC-AGI-2 GPT-5.2 Pro Gemini 3 Pro

推荐理由：这篇论文的方法很实在，用多模态搜索加整体判断，在ARC-AGI-2上做到了72.9%，比GPT-5.2 Pro高了将近19个点，代码还开源了。

原文

09:46

官方账号arXiv cs.LG@Kung-Ming Lan

该研究指出参数化量子电路(PQCs)的巨大希尔伯特空间容量是导致贫瘠高原(BPs)（梯度指数平坦）的直接数学原因，并建立了动力学李代数(DLAs)与几何量子ML的框架。在非线性二分类任务中验证，无结构架构通过不可扩展参数化达到近完美训练精度（量子过拟合），而嵌入群论几何先验作为结构正则化器。通过将DLA增长限制为多项式级别，牺牲原始记忆能力来保证可扩展、梯度丰富的训练景观，提供了可扩展量子神经网络的“按设计可训练”路径。

论文 Quantum Machine Learning Parameterized Quantum Circuits Dynamical Lie Algebras

推荐理由：这篇论文点破了一个反直觉事实：量子模型容量越大越难训练，并给出了用对称性绕过贫瘠高原的数学方法。

原文

09:44

官方账号arXiv cs.LG@Xudong Wu, Pangpang Liu, Vaneet Aggarwal, Jiayu Chen

本文分析了自改进对齐（SAIL）算法在解决分布偏移问题时的收敛性质，指出原始SAIL目标函数因Hessian性质不保证强凹性。作者提出正则化目标SAIL-RevKL，引入逆向KL散度惩罚改善优化景观，并证明该目标在有限参数空间内满足Polyak-Lojasiewicz（PL）条件。理论贡献包括建立全局收敛保证，实现近线性样本复杂度。实验表明，SAIL-RevKL在MuJoCo基准和LLM对齐任务上均优于原始SAIL。

论文 SAIL SAIL-RevKL LLM对齐

推荐理由：这篇论文给自改进对齐的收敛性补上了理论证明，SAIL-RevKL加了逆向KL惩罚后效果更好，对做LLM对齐和强化学习的朋友很有参考价值。

原文

09:43

官方账号arXiv cs.LG@Wenhao Li, Jinhao Dong, Hailin Zhang, Wenhang Shi, Wei Lu, Xiaoyong Du

RaBitQCache利用随机旋转二进制量化和二进制INT4算术高效估计注意力权重。该方法的代理分数是无偏估计量且具有可证误差界，支持自适应Top-p检索动态调整令牌预算。硬件感知系统通过异步流水线和惰性更新隐藏开销。实验表明，相比现有基线，RaBitQCache显著加速推理并减少内存I/O，同时保持生成质量。代码已在GitHub开源。

论文 RaBitQCache 旋转二进制量化 KV缓存

推荐理由：RaBitQCache用旋转二进制量化KV缓存，比现有稀疏注意力方法更快更省内存，还能自适应调整预算。

原文

09:42

官方账号arXiv cs.LG@Mehmet Iscan

研究使用安慰剂对照方法分解反馈包，针对0.5B-1.5B的冻结代码模型（共3个）在HumanEval+/MBPP+基准上的290个死任务单元进行测试。主实验生成7000个新样本，盲重采样比纯代码重试多解锁18个（25/7，p=0.0021），代码加事实比纯代码多解锁18个（21/3，p=0.00042），与通用子弹安慰剂相比多15个（p=0.0041）。指令单独效果不明显（+3，p=0.36）。研究结论是反馈价值来自与外部可执行反例的比较，而非重新暴露于失败代码。

论文代码模型自我修复反馈

推荐理由：这篇论文通过精心设计的安慰剂对照实验，拆解了自我修复反馈中真正起作用的成分——不是重新看到失败代码，而是比对可执行反例。方法严谨，结果清晰。

原文

09:41

官方账号arXiv cs.LG@Louis Mouchon

这篇论文提出，编码器隐空间上的小预测器计算的惊喜信号，既能作为可塑性门控，也能支持元认知。在第一个系统中，基于DINOv2或I-JEPA骨架的非参数情景记忆在持续学习1000类ImageNet时，通过离线复述分别恢复17.7和51.3个百分点的旧类保留率。第二个系统将相同信号用于视觉语言模型，使其在已知概念时断言、陌生时拒绝并请求解释，AUROC达0.966。经过睡眠阶段后，系统能回忆99.2%的教过事实，而基线模型为0%。

论文 DINOv2 I-JEPA ImageNet

推荐理由：这篇论文用同一个惊喜信号同时解决了持续学习的灾难性遗忘和VLM的元认知问题，效果很漂亮，值得做记忆或VLM的朋友看看。

原文

09:31

官方一手arXiv: DeepSeek@Zhiqing Tang, Size Li, Hanshuai Cui, Zilan Huang, Jianxiong Guo, Tian Wang, Yuan Wu, Weijia Jia

DeepSeek-R1等大型推理模型通过长链思维（CoT）获得强性能，但边缘设备资源受限。现有基于置信度的早退方法从单请求角度固定阈值，忽略多请求并发和负载波动。提出LASER，包含负载感知自适应退出阈值和难度-负载感知推理预算预分配。在2个推理模型、4个基准、不同负载条件下，平均延迟降低17-38%，SLO满意度提升3-6%，准确率仅损失1%。

论文 DeepSeek-R1 LASER 推理模型

推荐理由：想减少长链推理的延迟？LASER用负载感知早退，在边缘设备上平衡速度和准确率，值得一试！

原文

09:30

官方一手arXiv: DeepSeek@Zhaojian Yu, Penghao Yin, Shuzheng Gao, Shilin He, Kai Cai, Xiao-Ping Zhang

AutoTrainess是一个基于大语言模型的智能体，通过暴露规划、数据准备、训练、评估和日志等操作作为代理-计算机接口，自动化语言模型的后训练流程。在PostTrainBench基准上，AutoTrainess搭配GPT-5.4（Codex）取得平均26.94分，超过CLI-only基线的23.21分。它还能跨模型泛化，将DeepSeek-V4-Flash（OpenCode）的得分从12.13提升至19.58。该研究提出将人工经验外部化为显式工作流和约束，引导智能体更有效且可靠地执行训练任务。

论文 AutoTrainess PostTrainBench GPT-5.4

事件专题

推荐理由：这篇论文提出一个叫AutoTrainess的智能体，能自己跑模型训练流程，不用人盯着。在PostTrainBench上比纯命令行强，还能帮DeepSeek-V4涨分。

原文

09:29

官方一手arXiv: DeepSeek@Zewen Liu

该论文首次研究评估器校准作为缓解方法，对DeepSeek-V4-Pro执行器和GLM5.2评估器进行受控实验。结果显示，校准将耦合系数gamma降低20-49%，Jensen-Shannon散度降低45-67%。对称LR控制实验确认效果并非来自更新不对称性减少。作者发布了校准TTRL协议，推荐作为轻量级缓解方案。

论文 DeepSeek-V4-Pro GLM5.2 TTRL

推荐理由：这篇论文实验发现，对评估器做概率校准能把偏好耦合降低20-49%，效果显著，推荐给做LLM评估管线的朋友。

原文

09:28

官方一手arXiv: DeepSeek@Lisa Taldir, Muhammad Ahmad Saeed, David Defour, Pablo de Oliveira Castro, Eric Petit

论文发布了InterFLOPBench，一个包含90个C语言内核和1130个测试样本的浮点错误分类基准。它评估了14个LLMs在六类错误（抵消、比较、除以零、溢出、下溢、NaN）上的多标签分类性能。结果显示，Qwen 3 32b、Gemini 2.5 Flash、Phi 4 Reasoning、DeepSeek R1T2和gpt-oss（20b和120b）等模型总体F1分数超过0.88。不同错误类别表现差异大：除以零平均F1为0.8479，而下溢和抵消分别只有0.6059和0.6164。

论文 InterFLOPBench LLM 浮点错误

推荐理由：这篇论文搞了个InterFLOPBench，专门测LLM找C语言浮点bug。Qwen 3和Gemini 2.5等模型表现最强，F1超0.88。写代码的必看！

原文

09:26

官方一手arXiv: DeepSeek@Mohammad Alijanpour Shalmani, Alale Rezvani Boroujeni, Jiann Shiun Yuan

一项研究分析了六种开源模型家族（DeepSeek-R1、Gemma-2、Llama-3、Mistral、Phi-3、Qwen-2.5）在任务导向对话中面对数据库调用失败时的表现。基于MultiWOZ 2.2（5领域）和SGD（20领域）构建的故障注入基准显示，朴素智能体在30.5%（MultiWOZ）和20.9%（SGD）的失败轮次中产生幻觉。提出的Guided-Retry策略无需重新训练即可将MultiWOZ上的幻觉率从30.5%降至15.3%（降低50%），SGD上从20.9%降至12.2%（降低42%）。但各模型残差幻觉仍达6-37%，跨域失败最难处理。

论文 DeepSeek-R1 Gemma-2 Llama-3

推荐理由：论文用实际数据告诉你，数据库出错时LLM会瞎编内容，但加个简单提示就能把幻觉砍掉一半。不用重训模型，看各家的差距有多大。

原文

09:23

官方一手arXiv: DeepSeek@Gaurab Baral, Aaditya Khanal, Yangyang Tao, Junxiu Zhou

精选

该论文研究从大型推理模型DeepSeek-R1蒸馏知识到紧凑学生模型Qwen2.5-7B。使用2011-2025年约翰·奥布莱恩数学竞赛问题构建CoT训练语料，通过LoRA在Apple Silicon上微调。基础Qwen2.5-7B准确率64.67%，教师DeepSeek-R1达91.40%。五次独立微调后学生模型平均准确率69.43%（标准差0.17%），比基础模型提升4.76个百分点，并在MATH-500上泛化至73.1%（标准差0.18%）。研究还发现回答长度从平均220词降至31.2词时，准确率从69.43%降至41.9%。

论文 DeepSeek-R1 Qwen2.5-7B 知识蒸馏

推荐理由：这篇论文告诉你：把DeepSeek-R1的推理能力蒸馏到小模型Qwen2.5-7B上，MATH-500能到73%，但回答越短准确率掉得越快。

原文

09:22

官方一手arXiv: DeepSeek@Zhe Dong, Fang Qin, Manish Shah

精选

论文提出LearnStop方法，在固定预算检查点从推理前缀预测正确性，使用答案置信度、熵、前缀投票份额等特征。在GSM8K、MATH-500、MMLU-Pro、AIME-90、GPQA等18个任务-模型设置上评估，涉及Qwen3和DeepSeek-R1蒸馏模型。在GSM8K上使用Qwen3-32B时，后验峰值自适应增益达+0.157，验证选择操作点保持正增益。在多项选择和极难设置上，标量置信度、熵或稳定性规则更具竞争力。结论：学习停止的价值取决于轨迹结构，当许多问题在预算结束前变正确但缺乏可靠标量停止信号时有用。

论文 LearnStop 推理模型 GSM8K

推荐理由：这篇论文分析了推理模型什么时候该提前停止计算。LearnStop在数学题上比简单规则好，但难题还是用置信度更靠谱。

原文

09:20

官方一手arXiv: Anthropic@Hai Duc Nguyen, Tekin Bicer, Kyle Chard, Ian Foster, Bogdan Nicolae

Anthropic的Claude Opus 4.7通过OpenCode CLI驱动迭代代码生成，平均50分钟为一个MPI科学应用生成检查点/重启代码。每个应用消耗约340万token。在6个涉及不同领域的科学应用中，5个应用在正常无故障运行时添加的开销可忽略不计。从注入进程故障中恢复的效率与人工编写的检查点/重启实现相当。研究认为自动端到端LLM驱动的弹性工程在HPC中技术可行。

论文 Claude Opus 4.7 MPI 检查点/重启

事件专题

推荐理由：Claude Opus 4.7居然能自动给MPI软件加上检查点恢复，50分钟搞定，效果媲美人工，HPC开发者可以解放双手了。

原文

6月30日

15:35

官方账号arXiv cs.LG@Philip Zmushko, Egor Petrov, Nursultan Abdullaev, Mikhail Khrushchev, Samuel Horváth

该研究挑战了异步流水线并行中梯度陈旧导致不稳定的普遍假设。论文发现，在PipeDream-2BW调度下，一步延迟的退化强烈依赖于优化器选择：AdamW遭受严重退化，而Muon表现出强鲁棒性。作者提出了一种优化器无关的Error Feedback修正进一步缓解延迟影响，并在高达10B参数的模型上验证了与同步训练的性能差距已被消除。理论分析证明了Muon在有无修正下的收敛性。

论文 PipeDream-2BW Muon AdamW

推荐理由：这篇论文用Muon优化器颠覆了'异步流水线并行梯度延迟必然拉胯训练'的老观念，10B参数实验证明性能和同步训练一样好，做大型LLM预训练的同学应该看看。

原文

15:31

官方账号arXiv cs.LG@Yalin E. Sagduyu, Tugba Erpek, Aylin Yener, Sennur Ulukus

语义通信（SemCom）在共享接入无线网络中引入了新漏洞。本文针对两个发射机与一个公共接收机构成的多址信道SemCom系统，提出一种选择性空中后门（Trojan）攻击：攻击者在训练期间发射低功率触发波形并注入共享接收信号，测试时再次触发以操控特定发射机的语义推理，而对另一发射机影响极小。同时开发了触发感知防御机制，通过鲁棒训练保持正确的语义标签。实验结果表明共享接入SemCom系统对这种选择性攻击的脆弱性，以及防御机制的有效性。

论文后门攻击语义通信多址信道

推荐理由：这篇论文讲了一种能悄悄操控无线语义通信中特定用户数据的后门攻击，还给出了防御方案。做无线安全或语义通信的可以看看。

原文

15:30

官方账号arXiv cs.LG@Gervais Hatungimana, Abdun Naser Mahmood, Mohammad Jabed Morshed Chowdhury

该论文提出一种混合检测框架，用于检测企业共享存储环境中的加密勒索软件入侵。框架基于Region of Interest (RoI)技术分析网络流量并提取入侵指标(IoC)，IoC可作为EDR、IDS等工具的补充规则集。RoI特征用于训练机器学习模型，检测高度规避的勒索软件变种。实验显示，机器学习模块检测精度达99.64%，假阴性率为0%，假阳性率极低，整体准确率达99.44%。该方法能早期识别攻击，在造成重大损害前发出预警。

论文 RoI 勒索软件企业共享存储

推荐理由：这篇论文用RoI技术分析网络流量，结合机器学习实现了99.64%精度和0%漏报，比传统端点检测更早发现共享存储上的勒索攻击。

原文

15:16

官方账号arXiv cs.LG@Nico Daheim, Iryna Gurevych

arXiv 论文提出基于贝叶斯决策理论和风险规避规则的几种不确定性感知算法，用于大语言模型在辅导和自动同行评审中的决策。在生成导师回复或评审时，将策略与分数的不确定性纳入考量，并用共形预测对策略和分数提供统计保证。实验表明，贝叶斯方法在高模糊性下优于风险规避规则，后者可能因追求通用输出而降低效用。

论文 LLM 贝叶斯决策共形预测

推荐理由：这篇论文教大模型在不确定时怎么选策略，辅导学生或写评审都管用，贝叶斯方法比保守方法更聪明。

原文

15:16

官方账号arXiv cs.LG@Sivaraman Balakrishnan

这篇论文将有效传输映射估计问题形式化为一个严格的最小最大框架。推导出在标准稳定性假设下，估计任意有效传输映射的样本复杂度下界与估计最优传输（OT）映射相同。当稳定性假设不成立时，存在替代映射可以比OT映射更精确地学习。这些结果揭示了扩散模型和流匹配等生成方法的统计极限。

论文扩散模型流匹配最优传输

推荐理由：这篇论文严格证明了为什么有些生成模型不用最优传输也能行，给出了统计极限的硬理论，做生成模型理论的人必看。

原文

15:14

官方账号arXiv cs.LG@Mohit Raghavendra, Anisha Gunjal, Aakash Sabharwal, Yunzhong He

SWE-Interact是一个新测试平台，用于评估编码代理在多轮交互、用户驱动的软件工程任务中的表现。现有SWE基准（如SWE-bench）通常预先提供完整需求，而SWE-Interact通过用户模拟器逐步揭示需求、提供反馈和约束。在单轮任务中，最强模型（如Opus 4.8和GPT 5.5）解决率约50%，但在SWE-Interact多轮任务中仅解决约25%。该基准测量了模型在交互目标发现和迭代细化中的正交能力。

论文 SWE-Interact Opus 4.8 GPT 5.5

事件专题

推荐理由：想知道编程智能体在真实对话开发中能撑多久吗？SWE-Interact测试了Opus 4.8和GPT 5.5在模糊需求下逐步迭代的能力，结果比单轮任务差一半。

原文

15:14

官方账号arXiv cs.LG@Ting-Wen Ko, Jonas Geiping

该研究分析了7个LLM在20个争议话题上的双人辩论，发现自对弈轨迹形成模型特定吸引子。在混合对弈中，Claude Haiku作为强吸引子，其他模型会模仿其元评论等特征，而GPT-4.1 nano表现出高度可塑性。这些吸引子使对话行为部分可预测，但受非对称伙伴影响。

论文 Claude Haiku GPT-4.1 nano 多智能体

推荐理由：这篇论文发现LLM聊多了会互相带跑偏，Claude Haiku像个引力源，其他模型会被它影响。

原文

15:13

官方账号arXiv cs.LG@Jun Wen Leong

研究发现LLM Agent在持续记忆中毒攻击下存在行为不变性：成功攻击必须调用memory_recall_fact后再调用email_send_email。仅凭该规则的检测AUC达0.9563，基于19个轨迹特征的随机森林分类器将AUC提升至0.9904（BCa 95% CI [0.987, 0.993]）。跨9个模型（7B-120B参数）验证，6/9的留出测试AUC为1.000。该签名可泛化至GPT-4.1和GPT-4o等前沿模型，无需重新训练。通过工具调用日志即可区分记忆通道攻击与提示注入攻击。

论文 LLM Agent 记忆中毒行为检测

推荐理由：这篇论文发现了一个简单规律就能检测AI Agent的记忆中毒攻击，准确率高达99%，还能区分不同攻击类型，非常实用。

原文

15:10

官方账号arXiv cs.LG@Matan Schliserman, Gon Buzaglo, Itay Evron, Daniel Soudry

该论文刻画了同质模型中的弱正则化持续分类问题，将其视为在任务间隔集上的顺序投影。这一结果推广了此前仅限于单任务深度模型或持续线性模型的分析。研究表明，即使对于数据线性但参数非线性的简单模型，全局收敛一般也会失败。然而，利用非凸投影理论，论文识别了同质深度网络的规则性，保证在随机和循环任务序列下的局部线性收敛。最后，分析扩展到持续回归，统一了同质模型的框架。

论文 Continual Learning Homogeneous Deep Networks Deep Networks

推荐理由：这篇论文从理论上搞清楚了持续学习中同质深度网络的收敛性质，比之前只分析线性模型或单任务模型的结果更通用。

原文

15:09

官方账号arXiv cs.LG@Anurag K. S. V., Ashish Kumar Patra, Manas Mukherjee, Ruchika Bhat, Sai Shankar P., Rahul Maitra, Jaiganesh G

该论文提出一个混合量子-经典工作流，在Fujitsu FX700理想态矢量模拟器上使用QARP运行。它用O(N^4) MP2振幅初始化的LCNot-UCCSD ansatz替代O(N^6) CCSD初始化，并引入QSCI-RBM以RBM替代SQD进行配置恢复。方法在8种分子的STO-3G基组上进行14个误差等级各100次独立运行，并在cc-pVDZ基组的N2分子势能面扫描和DMET嵌入的Amantadine（C10H17N，11个片段）及SARS-CoV-2主蛋白酶-Carmofur复合物（10个片段）上验证。这是首次在量子模拟器上将LCNot-UCCSD部署于QSCI，也是首次将DMET-QSCI(LCNot-UCCSD)-RBM应用于工业相关蛋白-配体系统，计算资源需求低于Cleveland Clinic等先前工作。

论文 QSCI RBM LCNot-UCCSD

推荐理由：这篇论文用生成式ML(RBM)和优化初始化让量子分子模拟更省计算资源，能处理实际药物分子比如抗病毒药和新冠病毒蛋白酶。

原文

15:07

官方账号arXiv cs.LG@Orazio Pontorno, Mattia Litrico, Luca Guarnera, Mario Valerio Giuffrida, Sebastiano Battiato

μFlow是一种仅用真实图像训练的一类深度伪造检测器，无需依赖伪深度伪造或合成伪影。它通过平均多张图像放大GANs和扩散模型等生成器的一致生成痕迹，并训练归一化流将个体图像的特征空间与该分布对齐。在完全未见过生成器的测试集上，μFlow在F1分数等指标上显著优于当前最先进检测器。实验表明该方法对跨生成器类别（如GANs vs 扩散模型）具有良好的泛化能力。

论文 μFlow 深度伪造检测 GANs

推荐理由：他们提出μFlow，只用真实照片训练就能识别各种AI生成的假脸，在完全没见过的生成器上效果碾压现有方法。

原文

15:05

官方账号arXiv cs.LG@Javier Lazaro, Juan-Ignacio Vazquez, Pablo Garcia-Bringas

论文提出分阶段知识蒸馏(KD)策略，用于视觉量子强化学习(QRL)。先训练经典视觉老师模型，冻结编码器作为特征接口，将老师策略行为蒸馏到紧凑下游头中。下游头可以是经典或变分量子电路(VQC)的。在CartPole Pixels和Acrobot Pixels环境上评估，结果显示浅层VQC头能在直接像素训练困难的情况下获得非平凡视觉控制行为。角度编码VQC头保持接近老师性能(约90%成功率)，而幅度编码头更紧凑(参数减少70%)但更脆弱。

论文 VQC Knowledge Distillation Quantum Reinforcement Learning

推荐理由：这篇论文用蒸馏方法让量子电路也能搞定视觉强化学习，实验做得扎实，省去从头训练的麻烦。

原文

13:54

官方账号arXiv cs.AI@Xuan Zhang, Wenxuan Zhang, See-Kiong Ng, Yang Deng

WorldEvolver是一个自进化世界模型框架，在部署时通过记忆模块修正上下文，同时保持下游智能体和模型参数冻结。它包含三个模块：Episodic Memory利用检索模拟实际动作转换，Semantic Memory从预测-观测不匹配中提取启发式规则，Selective Foresight过滤低置信度预测。在ALFWorld和ScienceWorld上评估，WorldEvolver在Word2World上取得最高预测准确率，并在AgentBoard上显著提升下游智能体成功率。实验表明，测试时记忆修正同时增强了预测保真度和规划性能。

论文 WorldEvolver LLM 世界模型

推荐理由：WorldEvolver通过三种记忆模块让智能体的世界模型在测试时自我进化，在ALFWorld和ScienceWorld上预测准确率最高，下游成功率也领先其他方法。

原文

13:53

官方账号arXiv cs.AI@Yuhong Deng, Yuyao Liu, David Hsu

GROW^2提出一种层次化功能定位方法，将物体部件作为抽象层分割语义和几何过程。语义层利用VLM（如GPT-4V）分析任务指令并选择合适工具及关键部件；几何层通过视觉基础模型（如SAM）从单张RGB-D图像定位精确3D区域。在功能预测基准上，GROW^2优于现有基线方法，并实现对开集物体的零样本泛化。仿真和真实机器人工具使用实验均验证了其有效性，例如用盘子代替刀切蛋糕。

论文 GROW^2 VLM 视觉基础模型

推荐理由：这篇论文教机器人像人类一样用盘子切蛋糕，不受工具原始功能限制。用VLM选工具、SAM定位，零样本效果比现有方法好。

原文

13:53

官方账号arXiv cs.AI@Subramanyam Sahoo, Aman Chadha, Vinija Jain, Divya Chaudhary

论文在Qwen3-14B策略上采用DPO，设置三个保守度β（低、中、高），并在在线适应中使用3×Qwen3-1.7B奖励集成。在GSM8K基准上测量准确率，发现更高保守度单调增加奖励黑客损伤，Goodhart gap及其曲线下面积AUGC的Spearman ρ=1.0。机制分析表明，高β DPO压缩策略熵，导致响应多样性降低，但集成分歧增加且被更快利用。论文进一步拟合幂律曲线，确定了平衡对齐保真度和漏洞的最优保守度β*。

论文 Qwen3-14B DPO GSM8K

推荐理由：这篇论文用Qwen3-14B和DPO实验证明，离线训练越保守，在线适应越容易翻车，还在GSM8K上给出了最优保守度公式。做RLHF的值得一读。

原文

13:46

官方账号arXiv cs.AI@Xinlei Yu, Gen Li, Qingyi Si, Guibin Zhang, Yuqi Xu, Congcong Wang, Shuai Dong, Kaiwen Tuo, Xiangyu Zeng, Kaituo Feng, Qunzhong Wang, Yang Shi, Xiaobin Hu, Xiangyu Yue, Jiaqi Wang, Shuicheng Yan

精选

DOPD是一种advantage-aware的双重蒸馏范式，通过动态路由令牌级监督信号，在特权教师和特权学生策略之间进行分配，缓解了传统同策略蒸馏中的特权幻觉问题。实验在LLM（如GPT-2）和VLM（如CLIP）上验证，结果显示DOPD在稳定性和鲁棒性等指标上持续优于Vanilla OPD。

论文 DOPD LLM VLM

推荐理由：这篇论文提出了一种新蒸馏方法DOPD，通过分令牌监督解决特权幻觉，在LLM和VLM上效果都更好，适合关注模型压缩的研究者。

原文

13:46

官方账号arXiv cs.AI@Ziwei Su, Junyu Ren, Victor Veitch

该论文研究了对比嵌入模型中，尽管训练损失是尺度不变的且通常使用余弦相似度，但嵌入向量的范数（norm）却意外地与概念特异性、词频和人类不确定性等语义属性相关。作者通过分析优化动力学，推导出一个解析公式，证明嵌入长度作为训练过程的副产品自然地编码了这些信息。研究还展示了这种信号如何在特定模型和检索任务中作为“免费”校准工具使用，为之前仅基于经验的观察提供了理论解释。

论文对比嵌入嵌入范数语义特异性

推荐理由：一篇理论论文，解释了为什么对比嵌入模型的向量长度能反映语义，以后做检索任务可以白捡校准信号。

原文

13:45

官方账号arXiv cs.AI@Haoran Jin, Xiting Wang, Shijie Ren, Hong Xie, Defu Lian

稀疏自编码器（SAE）常用于解释大语言模型，但扩展到大规模字典时会出现特征分裂（将连贯概念拆分为非原子潜在变量）和特征吸收（在通用特征中创建任意例外）问题。这些问题源于不同样本间的潜在变量分配不一致。C^2R方法通过惩罚批量中方向相似潜在变量的共激活，显式鼓励每个语义特征由统一潜在变量表示。评估显示C^2R有效缓解分裂和吸收，同时保持重建保真度，代码已在GitHub开源。

论文 C^2R 稀疏自编码器特征分裂

推荐理由：这篇论文发现了SAE解释模型时的两个大坑——特征分裂和吸收，然后用C^2R正则化给治好了，代码开源，直接上手试试。

原文

仅展示最近 2000 条内容。更早的内容请查阅 AI 日报存档（侧边栏 → AI 日报 → 顶部「往期日报」）。