AITOP

零样本泛化

共 10 条相关 AI 资讯
7月8日
12:13
12:13官方账号arXiv cs.AI@Qian Sun, Yong-Ming Tian, Jia-Wei Huang, Cheng Feng, Shao-Qun Zhang
RMISC语料库包含约200个数据集、1420亿个时间点，覆盖多领域真实世界多变量时间序列。研究者用RMISC预训练四种先进时间序列基础模型（TSFMs），并与合成数据预训练模型对比。实验表明，真实世界多变量数据显著提升TSFMs的零样本泛化能力，在分布内和分布外基准上均表现更优。
论文RMISCTSFMs时间序列基础模型
推荐理由：如果你的时间序列模型总是泛化不好，试试用RMISC这个真实世界大数据集预训练，1420亿个时间点，效果比合成数据强很多。
原文
7月1日
10:15
10:15官方账号arXiv cs.AI@Peng Li, Rawal Khirodkar, Junxuan Li, Yuan Dong, Chen Cao, Yuan Liu, Wenhan Luo, Yike Guo, Shunsuke Saito
LUNA 提出了一种无 LBS 的通用神经动画模型，直接从2D输入（图像、关键点、草图）预测3D高斯变形，无需显式人体拟合。其核心是一个基于 transformer 的运动回归器，分离全局刚体运动与局部非刚性细节。通过混合监督策略，模型从 LBS 教师蒸馏结构先验，并利用大量无标签视频数据进行训练。实验表明，LUNA 在视觉保真度上媲美 LBS 方法，同时实现零样本跨身份泛化，支持多种驱动模态。该工作是首个端到端支持隐式2D驱动的3D可动画化模型。
AI模型LUNA3D人体动画神经渲染
推荐理由：LUNA 不用传统的 LBS 蒙皮，直接用图片或关键点驱动3D角色，效果真实还能自动适配新角色，动画师和研究者可以试试。
原文
6月24日
11:37
11:37官方账号arXiv cs.AI@Xiaowei Gao, Pengxiang Li, Yitai Cheng, Ruihan Xu, James Haworth, Stephen Law, Yun Ye
UniDrive是一个统一视觉语言与定位框架，旨在实现自动驾驶中的可解释风险理解。它通过时间推理分支从多帧视觉输入建模场景动态，并通过高分辨率感知分支从最新帧保留细粒度空间细节，两者经门控交叉注意力融合模块集成。基于融合表示，UniDrive联合生成自然语言风险描述和风险对象的边界框输出。在DRAMA-Reasoning基准上，UniDrive在描述和风险对象定位上均优于基于图像和视频的基线，并在小目标定位、零样本泛化至NuScenes和BDD100K方面表现突出，人类评级的可解释性和可信度也更高。
论文UniDrive自动驾驶DRAMA-Reasoning
推荐理由：这个框架把时序推理和高分辨率感知结合起来，在DRAMA-Reasoning上碾压了现有方法，还能零样本泛化到NuScenes和BDD100K，代码也开源了，做自动驾驶可解释性研究的值得一看。
原文
6月19日
13:36
13:36量子位@衡宇
73°
北京通用人工智能研究院发布全球首个人形机器人通用小脑，基于2万小时人类动作数据训练。该模型在未经微调的情况下，能零样本泛化到多种新任务和场景。相比传统方法，它减少了90%的调试时间，使机器人动作更自然。
AI模型通用小脑人形机器人零样本泛化
推荐理由：北通院搞了个通用小脑，用两万小时人类动作数据训练，机器人不用重新学就能干新活，比传统方法省时省力。
原文
6月17日
10:22
10:22官方账号arXiv cs.LG@Cosimo Gregucci, Obaidah Theeb, Daniel Hernandez, Antonio Vergari, Steffen Staab
这篇论文研究了知识图谱基础模型（KGFM）的零样本泛化机制。作者提出“半链接”概念，即三元组(h,r,t)中的(h,r)或(r,t)部分。实验表明，只需观察到测试三元组的一个半链接在推理图中，就足以准确预测完整链接。基于此，论文划分了四种半链接观测组合场景，并在这些场景下对现有KGFM进行了分层分析。分析发现，当前最先进的KGFM依赖已见半链接进行预测，而未见半链接带来不同挑战，这为未来模型改进提供了诊断方向。
论文KGFMknowledge graph零样本泛化
推荐理由：这篇论文把知识图谱模型泛化的底层逻辑讲清楚了——原来只要看到半个链接就能猜出整条，还分出了四种情况。搞图神经网络或KG推理的人别错过。
原文
6月15日
11:12
6月9日
11:56
11:56官方账号arXiv cs.AI@Peiliang Gong, Emadeldeen Eldele, Chenyu Liu, Ziyu Jia, Yi Ding, Xinliang Zhou, Lianchao Gu, Qi Zhu, Yang Liu, Daoqiang Zhang, Xiaoli Li
精选
现有LLM时间序列预测方法多依赖被动对齐或静态重编程，难以捕捉非平稳模式和细粒度任务意图。本文提出InA-Probe，通过多层级指令注入和自适应查询生成，让模型主动探测时间序列中的关键模式。该方法在7个真实基准上超越现有深度学习和LLM基线，在跨域场景中预测误差降低高达37%，零样本泛化能力也显著提升。消融实验表明，自适应查询与细粒度指令的协同作用是释放LLM推理能力的关键。
论文时间序列预测LLM指令感知
推荐理由：时间序列预测从业者终于有了一个能主动理解任务意图的LLM方案——InA-Probe在跨域场景误差降低37%，做金融、能源等时序预测的团队值得关注。
原文
6月3日
10:57
10:57官方账号arXiv cs.AI@Zekun Qi, Xuchuan Chen, Dairu Liu, Chenghuai Lin, Yunrui Lian, Sikai Liang, Zhikai Zhang, Yu Guan, Jilong Wang, Wenyao Zhang, Xinqiang Yu, He Wang, Li Yi
精选
研究团队提出 Humanoid-GPT，一种基于 GPT 风格的因果注意力 Transformer，在 20 亿帧的运动数据上预训练，用于全身控制。与以往受限于数据稀缺和敏捷性-泛化权衡的浅层 MLP 追踪器不同，Humanoid-GPT 统一了所有主要动作捕捉数据集和大量内部录制数据。通过扩展数据和模型容量，该模型能够追踪高度动态的行为，并在未见过的动作和控制任务上实现前所未有的零样本泛化。实验表明，Humanoid-GPT 在零样本泛化和动态复杂运动追踪方面均达到了新的性能水平。
论文Humanoid-GPT运动追踪零样本泛化
推荐理由：做机器人全身控制和运动追踪的团队终于有了一个能零样本泛化的基础模型——Humanoid-GPT 用 20 亿帧数据训练，直接解决了以往模型在动态场景下泛化差的问题，做仿人机器人或动画生成的开发者值得关注。
原文
5月22日
11:14
11:14官方账号arXiv cs.AI@Ismail Geles, Leonard Bauersfeld, Markus Wulfmeier, Davide Scaramuzza
76°
苏黎世大学团队通过多智能体强化学习（MARL）训练高速四旋翼无人机竞速，在超过22米/秒的速度下，不仅击败了人类冠军飞行员，还将碰撞率比最先进的单智能体基线降低了50%。该研究以联赛式自对弈训练智能体学会主动避让、超车和处理复杂气动干扰，并实现了对人类的零样本安全泛化。结果表明，多智能体交互的严苛训练比孤立的安全约束更能实现鲁棒的机器人共存。
论文多智能体强化学习无人机竞速安全交互
推荐理由：这项研究证明了多智能体强化学习在物理世界交互中的安全优势，做无人机、自动驾驶或机器人协作的团队值得关注——它用竞速场景给出了一个可复现的范式。
原文
5月21日
12:01
12:01官方账号arXiv cs.LG@Tilman Tröster, David Mirkovic, Veronika Oehl, Arne Thomsen
精选
Velocityformer是一种等变图Transformer架构，专门用于从光谱巡天数据中重建星系速度，以提升运动学SZ效应的测量信噪比。该模型通过匹配观测数据中因视线方向导致的破缺对称性，在归纳偏置上优于标准线性理论基线，将速度重建相关系数r提升35%。Velocityformer在仅4个低保真模拟上即可训练到高精度，并能零样本泛化到不同输入几何、宇宙学参数和星系样本。在高保真模拟星系目录上，该模型将r提升30%，直接转化为观测数据上相同的信噪比增益。
论文等变图Transformer宇宙速度重建kSZ效应
推荐理由：宇宙学研究者终于有了一个能处理观测数据破缺对称性的AI工具——Velocityformer在速度重建上比线性理论提升35%，且数据效率极高，做kSZ效应测量的团队可以直接用。
原文