10:44arXiv cs.AI@Nick Bettencourt, Xiaowei Ding, Kay Giesecke斯坦福大学发布SEFD数据集,重建SEC文件为布局忠实的MultiMarkdown格式,用于金融语言模型预训练。SEFD-v1初始快照包含152B tokens,总归档估计550B tokens。该数据集与Common Crawl衍生语料重叠小于0.1%,具有极高的新颖性。同时推出两个基准EDGAR-Forecast(财务数值预测)和EDGAR-OCR(复杂表格转录),评估模型在金融领域的能力。论文SEFDEDGAR金融数据预训练数据财务基准推荐理由:斯坦福这个SEFD数据集太实用了,152B token的金融预训练数据,跟Common Crawl几乎不重复,还自带财务预测和表格识别基准,搞金融NLP的可以省好多事。原文
11:31arXiv cs.LG@Konrad J. Mueller, Nikita Zozoulenko, Ben Wood, Thomas Cass, Lukas Gonon精选金融时间序列生成面临训练数据稀缺(通常只有一条历史路径)的挑战,导致对抗训练容易过拟合。现有方法通过匹配路径签名特征来训练生成器,但签名特征在有限截断深度下无法捕捉关键时间序列属性。本文提出SOCK(软竞争核),一种完全可微的随机卷积特征映射,能够有效监督生成模型。实验表明,基于SOCK特征匹配训练的生成器在多个小样本金融数据集上持续优于签名和扩散基线方法。此外,SOCK在双样本假设检验和时间序列分类任务中也匹配或超越了现有无监督特征映射。论文时间序列生成金融数据随机卷积特征SOCK小样本学习推荐理由:金融时间序列生成终于有了一个可微的随机卷积特征方案,做量化分析或金融建模的团队可以直接用SOCK替代签名特征,小样本场景下效果更好。原文