7月8日
12:13
12:13官方账号arXiv cs.AI@Qian Sun, Yong-Ming Tian, Jia-Wei Huang, Cheng Feng, Shao-Qun Zhang
RMISC语料库包含约200个数据集、1420亿个时间点,覆盖多领域真实世界多变量时间序列。研究者用RMISC预训练四种先进时间序列基础模型(TSFMs),并与合成数据预训练模型对比。实验表明,真实世界多变量数据显著提升TSFMs的零样本泛化能力,在分布内和分布外基准上均表现更优。
推荐理由:如果你的时间序列模型总是泛化不好,试试用RMISC这个真实世界大数据集预训练,1420亿个时间点,效果比合成数据强很多。
7月2日
12:30
12:30官方账号arXiv cs.LG@Patrick Podest, Marco Pichler, Elias Bürger, Levente Zólyomi, Bernhard Voggenberger, Wilhelm Berghammer, Daniel Klotz, Sebastian Böck, Günter Klambauer, Sepp Hochreiter
TiRex-2是基于xLSTM的循环时间序列基础模型,将单变量TiRex扩展到多变量预测,支持未来已知协变量。它采用双向时间混合器和非对称分组注意力变体混合器,保持严格因果性。在GIFT-Eval和fev-bench上取得零样本SOTA性能。相比Transformer,流式处理时每块计算成本恒定,无需全历史重算。模型单变量模式有38.4M活跃参数,多变量模式额外激活44.1M参数。
推荐理由:TiRex-2是首个同时支持多变量流式预测和已知未来协变量的时间序列基础模型,零样本刷新GIFT-Eval和fev-bench榜单,每步计算量不变。做在线时序预测的朋友可以看看。