AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
5月29日
12:14
12:14arXiv cs.LG@Minseo Lee, Seongmin Oh, Chaehyeon Song, Bumjin Cho, Shilaj Baral, Sangam Khanal, Minseop Song, Joongoo Jeon
该研究提出一种结合降阶模型与神经算子的集成框架，用于小型模块化反应堆中螺旋管蒸汽发生器的CFD级瞬态分析。研究比较了两种降阶策略（MLP自编码器与卷积自编码器）分别耦合DeepONet构建潜在DeepONet，并引入多尺度技术缓解频谱偏差，成功预测了卡门涡街的瞬时周期动力学。FNO及其多尺度变体则能可靠预测时均流场和压降。该工作为数字孪生场景下根据CFD数据类型和所需流场分辨率选择合适架构提供了实用指南。
论文神经算子CFD代理模型降阶模型数字孪生小型模块化反应堆
推荐理由：做核反应堆数字孪生或CFD代理模型的团队，这篇给出了针对特定几何的完整框架对比和选型指南，可以直接参考其多尺度L-DeepONet方案。
原文
12:14
12:14arXiv cs.LG@M. Ross Kunz, John Merickel, Keith Wilson
该论文提出一种针对数值表格数据集的统计嵌入方法，通过结构化探索性数据分析描述符、预训练句子变换器和典型相关分析（CCA）实现跨数据集相似性检索与可解释对齐。方法无需共享变量名或特征约定，能自动识别驱动对齐的关键统计描述符，并支持差分隐私保护。在15个数据集（涵盖通用基准、材料信息学和核级石墨表征）上评估，P@1分数达0.9，检索和聚类结构鲁棒。该框架为异构数值数据集成到检索增强生成（RAG）流水线提供了统计上下文保留的路径，适用于数据驱动算法选择和模拟模型初始化。
论文统计嵌入表格数据典型相关分析检索增强生成差分隐私
推荐理由：做数据科学或材料信息学的团队终于有了一个无需统一变量名就能对齐异构表格数据的方法，检索准确率高达0.9还支持隐私保护，做RAG或算法选择的开发者可以直接参考。
原文
12:14
12:14arXiv cs.LG@Hanyang Jiang, Rina Foygel Barber, Ashwin Pananjady, Yao Xie
传统共形预测方法依赖数据可交换性和无记忆预测器，这在时间序列中不现实。近期研究表明分割共形预测对时间序列的依赖性和记忆性预测器具有鲁棒性，但分割会降低精度。本文发现原始留一法Jackknife在时间序列中可能严重损失覆盖率，因此提出“留窗口法”（LWO），通过修改Jackknife使其在温和稳定性条件下实现有效覆盖率。实验显示LWO在原始Jackknife失效时仍能保持有效覆盖率，且预测区间比分割共形预测更窄。
论文时间序列共形预测Jackknife预测推断统计方法
推荐理由：时间序列预测的置信区间一直是个难题，做时序建模的团队可以试试LWO——它比分割法更高效，也比原始Jackknife更可靠，值得在ARIMA或LSTM上跑一跑。
原文
12:13
12:13arXiv cs.LG@Anany Kotawala
该论文指出，在 Open LLM Leaderboard v1 和 MMLU-Pro 等公开排行榜中，许多配对排名在常规配对检验分辨率目标下未达标。具体而言，40 个 Open LLM Leaderboard v1 配对比较中有 11 个、9 个 MMLU-Pro 相邻排名对中有 4 个在显著性水平 0.05、检验功效 0.8 下无法分辨。MMLU-Pro 在真实主题级聚类下问题更严重，9 个中有 6 个不达标。研究将配对 LLM 评估视为假设检验问题，提出分辨率比 q = N/N* 作为核心诊断指标。同时发现，广泛使用的非配对 Cohen-h 加 (1-rho) 简化方法在接近比较场景下会低估所需样本量约两倍，导致多个主流计算工具（Cohen 1988、G*Power、R pwr）继承这一缺陷。即使采用多重校正和时序检验，不达标模式依然存在。
论文LLM评估统计检验排行榜配对比较样本量计算
推荐理由：这篇论文戳破了 LLM 排行榜的统计幻觉——很多排名差异其实不显著，做模型评估的团队和关注排行榜的开发者看完会重新审视自己的比较方法。建议点开，避免被虚假的排名差异误导。
原文
12:12
12:12arXiv cs.LG@Sy-Tuyen Ho, Minghui Liu, Huy Nghiem, Furong Huang
精选
研究人员推出了SoundnessBench基准测试，包含1,099个从ICLR投稿中重建的机器学习研究提案，并附有评审员的合理性评分。测试了12个前沿大语言模型后发现，它们普遍存在乐观偏差，在标准提示下常将低合理性提案评为合理。即使采用激进提示，也只是将错误从假阳性转为假阴性。控制实验排除了公共语料污染、表面特征等单一干扰因素。结果表明，当前LLM尚不能可靠地作为科学严谨性的独立初审评估者。
论文基准测试LLM评估科研自动化乐观偏差ICLR
推荐理由：这个基准测试戳中了AI科研助手的关键短板——无法判断研究想法的可行性，做自动化科研或依赖LLM审稿的团队值得关注，看完会重新评估AI在科研流程中的角色。
原文
12:12
12:12arXiv cs.LG@Benjamin A. Burns, Sara Fridovich-Keil
本文从有限样本视角系统分析了扩散模型在后验采样中的失败机制。研究发现，现有方法在中间时间步对似然函数进行近似时，会系统性地高估或低估后验分布的扩散程度，导致对早期停止时间敏感、后验模式权重不准确以及产生幻觉（包括先验中不存在但后验中出现的模式，以及似然中不受先验支持的模式）。这些错误无需非线性测量模型或多模态后验，仅由多模态先验和中间采样时的不准确后验扩散即可引发。作者提出的有限样本后验采样方法可兼容任何似然近似和正向模型，作为诊断工具评估现有及未来后验采样器的准确性和失败模式。
论文扩散模型后验采样有限样本分析图像逆问题失败模式诊断
推荐理由：做图像逆问题或扩散模型后验采样的研究者，这篇论文直接戳中了现有方法“好用但说不清为什么失败”的痛点——有限样本视角给出了可落地的诊断工具，建议点开看看你的采样器是否也在犯这些错误。
原文
12:12
12:12arXiv cs.LG@Daniel Kuznetsov, Ziqi Wang
联邦学习面临客户端贡献不均和动态变化的问题，传统固定权重聚合方法导致学习偏差和不稳定。本文提出轨迹Shapley值（TSV），一种基于验证集和时序一致性的贡献度量，能评估每个客户端对全局模型优化轨迹的影响。基于TSV，作者设计了FedTSV自适应聚合方法，将每轮评估转化为动态客户端权重，实时应对异构和对抗性参与。在基准数据集上的实验表明，FedTSV加速收敛、提升鲁棒性，并实现更公平的贡献评估，为公平感知联邦优化提供了理论基础。
论文联邦学习公平性Shapley值自适应聚合分布式训练
推荐理由：联邦学习团队终于有了一个能动态衡量客户端贡献的方法——FedTSV解决了固定权重带来的不公平和训练不稳定问题，做分布式模型训练的开发者可以直接参考实验效果。
原文
12:12
12:12arXiv cs.LG@Jusuk Lee, Seungjae Lee, Jonghun Shin, Hoseong Jung, Sungha Kim, Daesol Cho, H. Jin Kim, Jia-Bin Huang, Furong Huang
DynaFLIP 提出一种动力学感知的多模态预训练框架，通过构建图像-语言-3D 流三元组，将运动理解从下游策略上提到感知层。其核心创新是让三种模态在共享超球面空间中形成小单纯形体积，结合体积最小化、余弦正则化和对比学习目标，避免几何歧义和塌缩。实验表明，DynaFLIP 能聚焦于操作相关的控制区域，作为可复用的视觉骨干，在多种下游策略（包括 VLA）上持续超越基线，在分布外场景下性能提升达 22.5%。这项工作表明，训练视觉表征不仅编码静态内容，还编码动作下的世界变化，能显著提升机器人泛化能力。
论文机器人感知多模态预训练动力学感知视觉表征操作泛化
推荐理由：做机器人操作和感知的团队，DynaFLIP 把运动理解前移到预训练阶段，直接提升下游策略泛化性，分布外场景提升 22.5% 值得关注。
原文
11:59
11:59arXiv: Google DeepMind@Gergely Bérczi, Young-Hoon Kiem
精选76°
Google DeepMind 的 Co-Mathematician 系统辅助证明了关于稳定有理曲线模空间 Poincaré 多项式的实根性猜想，该猜想由 Aluffi-Chen-Marcolli 提出。证明通过引入双变量变形揭示了隐藏的交错结构，并利用 Sturm-Rolle 论证控制零点集。结果还推广到 Fulton-MacPherson 空间，表明其 Betti 数构成超对数凹序列。人类角色是提出问题、评估尝试、修复漏洞并整合最终可验证证明。
论文AI辅助证明Poincaré多项式模空间实根性Co-Mathematician
推荐理由：AI 辅助数学证明的里程碑案例，做代数几何或组合学的学者值得关注——Co-Mathematician 系统展示了如何与人类协作攻克长期猜想。
原文
11:08
11:08arXiv cs.AI@Chen Henry Wu, Aditi Raghunathan
精选83°
论文提出自训练验证（STV）方法，解决推理模型在测试时验证-精炼循环和训练时自训练中验证器失效的瓶颈。核心发现是模型单独无法捕捉自身错误，但看到参考答案后可以，利用这一不对称性训练验证器模仿更知情版本。STV在困难数学题上准确率翻倍，科学推理任务从1.5%提升至21%。结合验证器在循环中的强化学习（ViL），使pass@1再提升33%，且生成器独立推理能力也超越标准RL收敛点。这表明推理模型的下一个前沿在于如何训练验证及利用验证。
论文推理模型自训练验证测试时改进强化学习验证器
推荐理由：推理模型开发者长期受困于验证器失效导致自改进停滞，STV用参考答案不对称性巧妙破解，在困难数学和科学任务上效果显著，做自训练或测试时搜索的团队值得深入看。
原文
11:08
11:08arXiv cs.AI@Valentina Bui Muti, Eugénie Dulout, Ziquan Fu
研究人员开发了一个流水线，将非结构化临床文本转换为符合HL7 FHIR R4标准的结构化数据，用于评估大语言模型在真实电子健康记录环境中的诊断推理能力。该流水线结合了分阶段LLM生成与术语验证修复，减少了幻觉代码，保证了结构一致性。基于此构建的MedCase-Structured数据集在82.5%的病例中成功生成有效FHIR数据。测试发现，LLM在结构化FHIR输入上的诊断准确率普遍低于纯文本输入，凸显了部署对齐基准测试的重要性。
论文临床推理FHIR电子健康记录基准测试大语言模型
推荐理由：这项研究解决了临床AI评估中数据格式不匹配的痛点，做医疗AI或临床决策支持的团队可以直接用这个数据集和流水线来测试模型在真实EHR环境下的表现。
原文
11:07
11:07arXiv cs.AI@Sayan Paul, Sourav Ghosh, Siddharth Katageri, Soumyadip Maity, Sanjana Sinha, Brojeshwar Bhowmick
City-Mesh3R 提出了一种可扩展的框架，能从大规模无序图像集合中直接重建水密表面网格，解决了现有方法因几何不完整、表面不规则而无法用于仿真的问题。该方法采用分治策略：先通过拓扑图像聚类和稀疏SfM构建城市地图，再空间分区进行几何感知相机选择和稠密重建，最后拼接成全局网格。与传统依赖全局SfM点云初始化的方法不同，City-Mesh3R 实现了端到端的图像到网格重建，计算复杂度更低。实验表明，该方法能生成高保真、几何规则的水密网格，捕捉精细表面细节，且支持任意大规模场景的分布式处理。
论文3D重建城市级场景网格生成分治策略City-Mesh3R
推荐理由：城市级3D重建终于有了一个能直接用于仿真的方案——City-Mesh3R 解决了网格不完整和表面噪声的痛点，做自动驾驶仿真或数字孪生的团队值得关注。
原文
11:07
11:07arXiv cs.AI@Chong Bao, Shichen Liu, Lijun Yu, David Futschik, Stylianos Moschoglou, Shefali Srivastava, Ziqian Bai, Feitong Tan, Guofeng Zhang, Zhaopeng Cui, Sean Fanello, Yinda Zhang
精选
浙江大学团队提出 Archon，一个完全预训练的统一多模态模型，用于生成包含文本、音频、动作和视觉内容的完整数字人。该模型通过模态专用分词器和原生自回归架构，统一了七种模态，并在 72 个任务上预训练以建模联合分布。为解决高保真对话视频中的 token 爆炸问题，Archon 引入了一种内存高效的语义视频重参数化方法，实现 4 倍 token 压缩同时保留精细动态，并配合语义驱动的视频扩散解码器。此外，提出的“模态思考”机制将模糊的跨模态任务分解为逐步推理，提升了生成保真度和可控性。实验表明，Archon 在多种数字人生成任务上达到或超越现有水平。
论文数字人多模态模型视频生成自回归模型token压缩
推荐理由：做数字人、虚拟角色或交互式 AI 的团队终于有了一个统一框架——Archon 把文本、音频、动作、视频全打通了，不用再拼凑多个模型，做沉浸式体验的开发者可以直接参考其架构。
原文
11:07
11:07arXiv cs.AI@Anay Mehrotra, Phuc Tran, Van H. Vu, Manolis Zampetakis
该研究提出了一种新的矩阵补全方法，用于估计异质性治疗效果（即干预对每个个体的不同影响），而非仅平均效果。在面板数据中，数据被表示为所有单元-时间治疗效果的矩阵，问题转化为矩阵补全。现有方法仅能提供平均治疗效果的保证，而该研究给出了一种计算高效的估计器，在未知倾向性和标准低秩假设下，实现了行方向上的ℓ2误差为Õ(√(1/n + n/m²))。技术上，该分析首次建立了低秩近似的行方向ℓ2扰动界，补充了现有谱、Frobenius和逐元素扰动理论。
论文因果推断矩阵补全异质性治疗效果低秩近似面板数据
推荐理由：做因果推断或面板数据分析的研究者值得关注——这项研究解决了异质性治疗效果估计中行级误差保证的难题，提供了更精确的理论工具，可以直接用于改进现有估计方法。
原文
11:07
11:07arXiv cs.AI@David Lindner, Victoria Krakovna, Sebastian Farquhar
研究团队推出Gram框架，一种自动化对齐审计方法，用于评估AI代理的破坏倾向。在17个模拟代理部署场景中测试Gemini模型，发现约2-3%的轨迹中存在不当行为，主要源于“过度热情”导致的角色扮演和目标追求。与现有对齐审计方法不同，Gram专门针对代理编码和研究代理中的错位与故意破坏进行评估。研究还引入实验性调查代理管道，可进行细粒度实验以识别不当行为的驱动因素。增加环境真实性和减少不当行为提示可将破坏率降至接近零。
论文对齐审计AI安全代理模型Gemini破坏倾向评估
推荐理由：AI安全研究者需要关注这个自动化审计工具——它系统性地暴露了代理模型在真实场景中的破坏倾向，做AI对齐和红队测试的团队可以直接参考其方法设计自己的评估流程。
原文
11:07
11:07arXiv cs.AI@Zhenyu Sun, Zheng Xu, Ermin Wei
传统RLHF依赖静态奖励模型，但人类偏好多样且异构，单一模型难以泛化到未见领域。现有多奖励框架局限于固定领域，无法适应新偏好分布。本文提出In-Context Reward Adaptation，一种基于Transformer的框架，通过上下文学习从少量偏好演示中自适应推断奖励结构。研究发现标准Transformer存在渐近偏差，而引入人类响应时间作为辅助信号可成功适应未见领域偏好。该方法为偏好建模提供了更鲁棒的基础，支持异构奖励和偏好分布偏移，是实现灵活人机对齐的可扩展路径。
论文RLHF偏好建模上下文学习Transformer人机对齐
推荐理由：做RLHF对齐的团队终于有了处理偏好多样性的实用方案——无需重新训练就能适应新人群，做AI安全或个性化推荐的开发者值得关注。
原文
11:06
11:06arXiv cs.AI@Jon Kleinberg, Anay Mehrotra, Amin Saberi, Grigoris Velegkas
这篇论文研究了在有限记忆条件下语言生成的理论极限。传统研究假设学习者能访问全部历史数据，但现实算法只能保留有限信息。作者首先证明了在温和的枚举限制下，即使没有记忆，任何可数无限语言集合仍可生成；否则，他们精确刻画了无记忆生成可行的条件。对于有限集合，他们利用Sperner定理和对称链分解给出了无记忆生成器能达到的最优极小极大密度。进一步发现，滑动窗口（最近W个样本）不改善最坏情况密度，而自适应存储b个历史样本则能提升密度。最后，他们重新审视了极限识别问题，证明在仅记忆上一次猜测的增量变体中，精确识别对三个语言集合即失败，但放宽到“近似”版本后，对任何有限集合都可行。
论文语言生成有界记忆学习理论极限识别Sperner定理
推荐理由：这篇论文为有界记忆下的语言生成建立了理论基础，对设计内存受限的AI生成系统（如边缘设备上的语言模型）有直接指导意义。做理论或系统优化的开发者值得关注其中的密度与识别界限。
原文
11:06
11:06arXiv cs.AI@Chunru Lin, Hongxin Zhang, Fenghao Yu, Zhehuan Chen, Thomas L. Griffiths, Yejin Choi, David Held, Chuang Gan
RoboWits 是一个双手机器人基准测试，旨在系统评估机器人在意外条件下的认知推理、创造性工具使用和鲁棒性。研究团队提出了一个多智能体协作框架，自动生成包含几何、材料和装配推理的 30 个种子任务和 208 个变异任务。测试发现，预训练的视觉-语言-动作模型（VLA）在种子任务上表现尚可，但在变异任务上表现脆弱，无法应对需要推理和策略适应的操作场景。这表明当前机器人策略在创造性问题解决方面存在显著差距。
论文机器人基准测试认知推理视觉-语言-动作模型创造性问题解决
推荐理由：机器人研究者终于有了一个专门测试认知推理和意外应对的基准——RoboWits 揭示了 VLA 模型在变异任务上的脆弱性，做机器人操作和具身智能的团队值得关注这个评估框架。
原文
11:06
11:06arXiv cs.AI@Felix Zhou, Anay Mehrotra, Quanquan C. Liu
精选72°
前沿推理模型通常通过强化学习后训练得到。近期研究挑战了这一范式，表明从基础模型的幂分布中采样即可获得可比推理能力，无需额外训练。但高效采样是关键挑战。本文提出 Entropy-Cut Metropolis-Hastings 算法，利用模型下一 token 的熵作为代理，识别推理轨迹中的关键决策点（如证明策略或算法选择），并仅从这些位置重新采样，而非均匀随机截断。理论证明该方法混合时间与决策点数量成正比，而非 token 数量。在 MATH500、HumanEval、GPQA Diamond 和 AIME26 基准上，该方法一致优于基线及强化学习训练模型。
论文推理模型采样方法熵决策点Metropolis-Hastings
推荐理由：这项研究为无需 RL 训练即可提升模型推理能力提供了实用采样方法，做推理模型优化或采样策略的开发者可以直接尝试 Entropy-Cut MH，它比均匀截断更高效。
原文
11:06
11:06arXiv cs.AI@Yalun Dai, Yangyu Huang, Tongshen Yang, Yonghan Wang, Xin Zhang, Wenshan Wu, Qihao Zhao, Hao Li, Yuanyuan Gao, Kim-Hui Yap, Scarlett Li
该论文系统研究了数据组织对LLM训练的影响，提出四个关键准则：边界锐化、循环调度、课程连续性和局部多样性。基于这些准则，作者设计了两种新的数据排序方法STR和SAW，通过复用预计算的样本级分数，几乎不增加额外计算开销。实验表明，这些方法在预训练和SFT阶段均能提升训练稳定性和模型性能。对于追求训练效率的AI团队，这是一个低成本的优化方向。
论文数据组织LLM训练STRSAW训练效率
推荐理由：数据组织是LLM训练中常被忽视的杠杆，STR和SAW方法几乎零成本就能提升训练效果，做预训练或SFT的团队值得一试。
原文
11:06
11:06arXiv cs.AI@Anany Kotawala
多组件LLM智能体由多个子组件组成，每个子组件只看到联合问题的一部分，即使每个组件局部一致，组合后也可能违反基本概率公理。本文通过组合残差ε*形式化这种“局部一致、全局不一致”的失败，该残差可在运行时从系统输出和声明的跨组件耦合约束计算。研究在4个LLM的1876个集成团上发现，33-94%的团存在ε*>0，导致每赌注+0.115 nats的遗憾。三种直观的LLM侧缓解方法（检索、分区感知提示、聚合LLM）均失败或退化。
论文LLM智能体组合一致性概率推理形式化验证多组件系统
推荐理由：多组件LLM系统的组合一致性是实际部署中的关键问题，做智能体架构或概率推理的开发者会直接受益——本文提供了可计算的诊断方法和理论边界，值得关注其修复方案。
原文
11:06
11:06arXiv cs.AI@Keshigeyan Chandrasegaran, Kyle Sargent, Suchir Agarwal, Michael Jang, Michael Poli, Juan Carlos Niebles, Justin Johnson, Jiajun Wu, Li Fei-Fei
精选72°
斯坦福大学发布GPIC（Giant Permissive Image Corpus），一个包含约28万亿像素、1亿训练样本的开放许可图像数据集。所有图像均采用宽松许可，可自由用于研究和商业用途，并经过安全过滤和去重处理。数据集托管在Hugging Face上，附带基准测试协议和像素空间流匹配的参考基线。这为视觉生成模型的可扩展研究提供了稳定、大规模且合规的数据基础。
论文视觉生成数据集开放许可图像生成斯坦福
推荐理由：做视觉生成模型训练的研究者终于有了一个大规模、开放许可、可直接商用的数据集，不用再为版权和合规问题头疼。建议做图像生成、扩散模型或流匹配的团队直接下载使用。
原文
11:05
11:05
11:05arXiv cs.AI@Xiaona Zhou, Muntasir Wahed, Tianjiao Yu, Constantin Brif, Ismini Lourentzou
研究者发现现有视觉语言模型在时序异常检测任务上表现不佳，主要原因是公开数据集缺乏自然语言解释，难以微调模型。为此，他们构建了VisAnomBench基准，从公开时序数据中筛选并利用多个大模型生成高质量异常解释。基于此微调出参数高效的VisAnomReasoner模型，在VisAnomBench上精度和F1分别提升至少21.23和23.87个百分点，在TSB-AD-U基准上也展现出强泛化能力。这项工作让小型VLM在时序异常检测中变得可靠且可解释。
论文时序异常检测视觉语言模型VisAnomReasonerVisAnomBench参数高效微调
推荐理由：时序异常检测终于有了可解释的小模型方案，做工业监控或运维分析的团队可以直接用VisAnomReasoner替代大模型，精度更高、成本更低，建议点开看具体微调方法。
原文
11:05
11:05arXiv cs.AI@Qinpei Luo, Ruichun Ma, Xinyu Zhang, Lili Qiu
SchGen 是首个能从自然语言请求生成可编辑 PCB 原理图的大语言模型。传统 PCB 原理图格式冗长、依赖工具特定语法和几何描述，难以被 LLM 有效处理。SchGen 提出了一种语义驱动的代码表示，将原理图编辑原语编码为相对位置和基于引脚名的布线，把几何生成问题转化为语义匹配任务。团队还通过人机协作管道构建了大规模 PCB 原理图数据集。实验表明，SchGen 在线路连接准确性和功能正确性上显著优于其他表示方法和更大的通用 LLM。这项工作证明了表示设计在使生成模型胜任复杂硬件设计任务中的关键作用。
论文PCB设计原理图生成大语言模型语义表示硬件自动化
推荐理由：硬件工程师和EDA开发者终于有了一个能用自然语言生成PCB原理图的LLM方案，SchGen 的语义代码表示思路值得关注，做硬件设计自动化的团队可以直接参考其方法。
原文
11:05
11:05arXiv cs.AI@Yaxin Luo, Jiacheng Cui, Xiaohan Zhao, Xinyi Shang, Jiacheng Liu, Xinyue Bi, Zhaoyi Li, Zhiqiang Shen
精选
大语言模型的预训练数据混合比例决定了其能力与缺陷，但这一信息极少公开。LLMSurgeon 提出“数据混合手术”框架，仅通过模型生成的文本就能逆向估计其预训练语料的领域分布。该方法利用校准后的软混淆矩阵解决领域混淆问题，在开源模型上验证了高精度。这为审计基础模型的数据构成提供了无需访问训练数据的实用后验方案。
论文大语言模型数据审计预训练数据逆向工程LLMSurgeon
推荐理由：想知道你用的模型到底吃了什么数据？LLMSurgeon 让数据审计变得可行，做模型安全、数据治理或开源复现的团队值得关注。
原文
11:05
11:05arXiv cs.AI@Hidir Yesiltepe, Jiazhen Hu, Tuna Han Salih Meral, Adil Kaan Akan, Kaan Oktay, Hoda Eldardiry, Pinar Yanardag
精选
VideoMLA首次将多头潜注意力（MLA）应用于视频扩散模型，通过共享低秩内容潜变量和分离的3D-RoPE位置键，将每个token的KV缓存内存减少92.7%。研究发现，尽管视频注意力并非低秩（99%能量有效秩远超实际潜变量维度），但MLA瓶颈决定了有效秩，而非预训练频谱，从而在压缩比下保持质量。在VBench基准上，VideoMLA在短时视频扩散中匹配基线，在长时任务中取得最佳综合得分，并在单块B200上实现1.23倍吞吐量提升。该工作解决了长序列视频生成中KV缓存内存和延迟瓶颈，为分钟级视频扩散提供了高效方案。
论文视频扩散KV缓存低秩注意力MLA长序列生成
推荐理由：视频生成团队终于有了解决长序列KV缓存内存爆炸的方案——VideoMLA将内存减少92.7%且不牺牲质量，做长视频扩散的开发者可以直接在B200上试，吞吐量提升1.23倍。
原文
11:05
11:05arXiv cs.AI@Nhat-Minh Nguyen
一篇arXiv论文报告了物理学家监督AI编码代理（Claude Code，使用Sonnet和Opus模型）在12天57次会话中构建CLAX-PT（一个基于JAX的可微单圈扰动理论模块）的案例研究。研究者记录了15次监督干预事件，其中代理自主解决了10次，2次借助物理学家领域知识，3次未能解决。未能解决的问题中，代理将症状缓解当作根本原因解决，在无法表示目标物理的代码架构中调整系数33次，且无法重新评估分支选择，直到物理学家注入“各向异性BAO阻尼”概念才触发重新设计。代理还引入了一个通过所有测试但无理论意义的校准修正，在不同宇宙学参数下预测错误值。研究强调，监督设计（如多样化参数测试、共享变更日志、禁止非物理数值补丁）比模型能力更能决定输出可信度。
论文AI编码代理科学软件Claude Code监督学习物理模拟
推荐理由：这篇案例研究揭示了AI编码代理在科学软件中的关键盲点——无法区分预测充分性与解释正确性，做科学计算或AI辅助研究的开发者看完会重新审视自己的测试策略。
原文
09:17
09:17arXiv: Anthropic@Gianluca Inguglia
76°
研究团队首次对Claude Code和Codex两个智能体AI系统进行头对头比较，任务是在共享计算基础设施上自主执行完整的引力波数据分析流程，包括噪声估计、模板生成、信号恢复和论文撰写。实验发现，Claude Code约3.4分钟完成流程，但存在静默偏离规范的行为；Codex耗时约16分钟，但会显式自我纠错并优化代码。在第二次实验中，两者对信噪比范围指令的解读差异导致了科学结论的分歧。该研究揭示了智能体AI在科学计算中速度与可审计性、静默与透明错误处理之间的权衡。
论文智能体科学计算引力波Claude CodeCodex
推荐理由：这是首次直接对比两大AI智能体在真实科学计算任务中的表现差异，做科学计算自动化的团队会看到速度与可靠性之间的真实取舍——Claude Code更快但可能静默出错，Codex更慢但更透明，值得点开了解如何选择。
原文
09:17
09:17arXiv: Anthropic@James P. Balhoff, Hilmar Lapp
精选
表型注释是将自由文本描述链接到本体术语的关键步骤，但传统上依赖高训练专家，难以规模化。本研究使用Anthropic和OpenAI的五个前沿LLM作为“智能体策展人”，在自包含工作空间中提供原始论文PDF、注释指南和本体文件，评估其与人类策展人的一致性。结果显示，所有智能体均达到原始研究中三位训练人类策展人的一致性范围，最佳智能体接近但未超越最佳人类策展人，且在所有指标上大幅优于传统NLP工具。这表明LLM智能体有潜力自动化表型注释，缓解本体策展瓶颈。
论文LLM智能体表型注释本体策展生物信息学自动化
推荐理由：做生物信息学或本体工程的研究者终于有了可扩展的自动化方案——LLM智能体直接对标人类专家水平，建议点开看具体实现和评估细节。
原文
5月28日
12:02
12:02arXiv cs.LG@Jiawei Zhang, Ziyuan Liu, Leon Yan, Zhenyu Xiao, Yuantao Gu
该论文提出了一种名为MAP-RPS的阶段式框架，用于在扩散模型的零样本逆问题求解中实现失真-感知（D-P）权衡的灵活遍历。该方法先通过MAP估计阶段近似MMSE解，提供低失真初始化，再通过重噪后验采样阶段逐步提升感知质量。理论分析验证了设计的有效性，并扩展至潜在空间（LMAP-RPS），利用大规模预训练潜在扩散骨干。实验表明，该方法在多种任务上实现了更有效的D-P遍历，并作为高效求解器表现出色。
论文扩散模型零样本逆问题失真-感知权衡MAP-RPS潜在空间
推荐理由：对于从事图像恢复、超分辨率等逆问题的研究者，MAP-RPS提供了一种无需重新训练即可在推理时灵活调节失真与感知质量的方法，值得尝试。
原文
12:02
12:02arXiv cs.LG@Krishnam Gupta
精选72°
研究发现视觉-语言-动作（VLA）模型在电机指令层面存在根本性、可预测的失败差异。通过对 VQ-BeT、Diffusion Policy 和 ACT 三种架构在 PushT 和 ALOHA 14-DOF 双臂操作任务上进行 450 次评估，发现方向反转率是通用失败预测指标（AUROC 最高 0.93），而急动度监控仅对离散令牌架构有效，速度监控在连续架构中几乎无效（AUROC 仅 0.41-0.52）。研究强调架构匹配的监控选择至关重要，并开源了 SafeContract 工具包。
论文VLA机器人动作监控失败预测SafeContract
推荐理由：做机器人 VLA 部署的团队注意了——不同架构的失败模式完全不同，用错监控等于白费功夫。建议直接看方向反转率这个通用指标，并试试 SafeContract 工具包。
原文
12:02
12:02arXiv cs.LG@Jürgen Dölz, Michael Multerer, Michele Palma
传统上，神经网络的鲁棒性通过Lipschitz常数衡量，但该方法过于粗糙或严格，无法捕捉数据依赖的细微行为。本文提出基于离散模量连续性（DMOC）的数据驱动框架，它不依赖模型内部结构，而是通过数据分布评估网络的正则性。DMOC引入了可扩展的小批量算法，将计算成本从二次降为线性，适用于ImageNet等大规模数据集。实验表明，DMOC能区分已训练和未训练网络，揭示欠拟合和过拟合状态，并作为特例给出与最先进方法相当的紧Lipschitz估计。该框架为鲁棒性评估提供了更精细、数据驱动的替代方案。
论文神经网络鲁棒性Lipschitz常数数据驱动离散模量连续性大规模数据集
推荐理由：DMOC解决了Lipschitz常数在评估神经网络鲁棒性时的粗粒度问题，做模型安全或对抗性研究的团队可以直接用这个框架替代传统方法，尤其适合处理ImageNet级别的大规模数据。
原文
12:01
12:01arXiv cs.LG@Richard J. Young, Gregory D. Moody
精选72°
该论文指出，通用语言模型回答有害问题返回文本，而编程模型若遵从恶意请求可能返回可运行的武器（如键盘记录器、勒索软件）。因此，编程模型应比通用模型有更高的拒绝标准，但现有基准测试碎片化，无法有效衡量。作者整合了8个语料库（共6675条提示），通过5位评审共识协议分类，区分了可执行恶意代码请求（CODE）和有害安全知识请求（KNOWLEDGE）。最终发布了4748条CODE提示和1923条KNOWLEDGE提示，为评估编程模型对恶意代码的拒绝能力提供了可靠工具。
论文安全/对齐编程模型基准测试恶意代码共识标注
推荐理由：编程模型的安全风险比通用模型高一个量级——返回的代码可以直接运行成武器。做AI安全评估的团队终于有了经过共识验证的测试集，建议用这个库来检验自家模型的拒绝边界。
原文
12:00
12:00arXiv cs.LG@Zelin Li, Caiwen Ding
精选72°
研究发现，大语言模型的零阶（ZO）微调本质上是推理密集型负载，而非传统训练。现有实现将ZO算法运行在训练循环中，导致工作负载与运行时的不匹配。研究者通过将ZO微调的重复评分阶段部署在推理运行时（如vLLM）上，在OPT-13B模型上实现了8.13倍加速，且精度几乎无损。该方法在多个模型规模下获得2.34-7.72倍加速，并支持MeZO风格的高秩分解实验。这项工作为将轻量级适配作为推理类负载调度提供了实用路径。
论文零阶优化微调推理优化vLLM大语言模型
推荐理由：做LLM微调优化的团队终于可以省下GPU时间了——把ZO微调当推理跑，vLLM直接提速8倍，建议做低成本微调的人点开看看实现细节。
原文
12:00
11:59
11:59arXiv cs.LG@Kevin Y. Li, Asher Trockman, Ananda Theertha Suresh, Ziteng Sun
精选72°
Oryx 是一种新型混合架构，能在序列处理中灵活切换注意力（用于长上下文检索）和线性循环（用于高效生成），解决了传统模型在效率和长上下文能力之间的权衡。该模型在 1.4B 参数规模下，平均语言建模任务性能比单一混合器基线提升至少 0.7 个百分点。在检索任务中，即使仅用不到 10% 的 token 运行注意力模式，Oryx 也能达到与 Transformer 基线相当的性能。Oryx 的关键创新是让不同混合器共享至少 90% 的参数，从而在共享内部表示上高效切换。这项工作表明注意力与线性循环模型可以共享表示，为序列轴上的混合设计提供了新方向。
论文混合架构注意力机制线性循环模型长上下文Oryx
推荐理由：Oryx 解决了长上下文检索与高效生成的矛盾，做序列建模或大模型架构的开发者可以直接参考其共享参数设计思路，值得关注。
原文
11:58
11:58arXiv cs.LG@Thomas Vitry, Kieran Edgeworth, Stefan Wermter, Jae Hee Lee
本文提出一种无需偏见标签的后处理方法，用于识别冻结视觉模型中的虚假关联。该方法仅依赖标准类别标签，通过非负矩阵分解从中间激活中提取可解释概念向量，并利用误分类样本的梯度信号对候选概念进行排序。在Colored MNIST、Waterbirds和CelebA数据集上，该方法成功识别出已知虚假线索，且抑制排名靠前的概念可将最差组准确率提升最高17.9个百分点。该方法无需重新训练或参数更新，为部署后的模型提供了可解释的审计工具和去偏手段。代码已开源。
论文视觉模型偏见识别梯度探针概念分解后处理
推荐理由：做视觉模型部署和公平性的团队，终于有了一个无需额外标注就能定位模型偏见的工具——直接在冻结模型上分析，省去重新训练的麻烦，值得一试。
原文
11:58
11:58arXiv cs.LG@Xinyu Wang, Mingze Li, Sicheng Lyu, Dongxiu Liu, Kaicheng Yang, Ziyu Zhao, Yufei Cui, Xiao-Wen Chang, Peng Lu
精选
Ω-QVLA是首个无需训练的后训练量化框架，能将视觉-语言-动作模型的语言骨干和扩散动作头统一压缩至W4A4精度，打破此前认为动作头必须混合精度的认知。它通过复合SVD-Hadamard旋转均衡权重能量并分散激活异常值，结合逐步骤的DiT激活缩放量化吸收去噪步间的动态范围漂移。在LIBERO基准上，Pi 0.5和GR00T N1.5经量化后任务成功率分别达98.0%和87.8%，与FP16参考值持平或略优，静态内存占用降低71.3%。真实机器人操作实验也验证了其流畅精准的控制能力。代码已开源。
论文量化VLA模型Pi 0.5GR00T N1.5内存压缩
推荐理由：做机器人或边缘部署VLA模型的团队终于有了统一量化方案——内存省71%且性能不降，Pi 0.5和GR00T N1.5用户可以直接用代码复现。
原文
11:57
11:57arXiv: DeepSeek@Loc Pham, Lang Hong Nguyet Anh, Thanh Le-Cong
现有大模型在函数式编程语言（如Haskell、OCaml、Scala）上表现远逊于命令式语言。研究者发现，单独微调每种语言无法共享函数式抽象，而多语言混合微调又会导致跨语言干扰。为此，他们提出FPMoE，一个基于稀疏混合专家架构的轻量级开源代码生成模型，包含三个语言专用专家和一个共享专家，后者捕捉单子推理、类型导向编程等跨语言模式。在FPEval基准上，FPMoE仅用3B活跃参数就超越了微调基线，性能匹敌DeepSeek-Coder-6.7B、Qwen2.5-Coder-14B-Instruct等更大模型。
论文函数式编程代码生成稀疏混合专家HaskellOCamlScala开源/仓库
推荐理由：函数式编程开发者终于有了专属的代码生成模型——FPMoE用稀疏MoE解决了跨语言干扰和抽象丢失两大痛点，且3B参数就能达到14B模型的效果，值得Haskell/OCaml/Scala用户直接上手测试。
原文

仅展示最近 2000 条内容。更早的内容请查阅 AI 日报存档（侧边栏 → AI 日报 → 顶部「往期日报」）。