小样本学习相关 AI 资讯

8月13日

17:53

官方账号arXiv cs.LG@Antoine de Mathelin, Christopher Tosh, Wesley Tansey

ScreenShot是一种分层Transformer模型，预训练于40个药物筛选数据集，覆盖3700种药物和6000个生物样本。该模型通过上下文学习直接预测新患者对组合疗法的反应，无需微调和分子谱分析。在四个保留数据集上，ScreenShot的预测准确率和选择性有效治疗识别均优于所有基线。其内部表示还可驱动加权k-means++主动学习，用三分之一的筛选预算实现相同的命中检测。

AI模型 ScreenShot 药物筛选组合疗法

推荐理由：想找有效的药物组合？ScreenShot不用分子图谱就能预测，少量样本就比现有方法准，还能省三分之二实验预算。

原文

7月27日

10:59

官方账号arXiv cs.LG@Athanasios Papastathopoulos-Katsaros, Steven T. Lee, Lin Yao, Ajay Thomas, Junseok Park, Matthew J. McGinley, Zhandong Liu

论文提出bag-of-waves框架，利用移位不变k-means无监督学习EEG波形模板（原子），将连续信号转为原子序列计数进行分类。方法扩展了原子间转移n-gram和跨通道空间原子。在三个数据集测试：仅16只小鼠的单通道基因型聚类、静息态痴呆分类、以及TUEV临床EEG六分类基准。性能与深度/基础模型相当，但参数量极少且完全可解释——每个原子对应可检验的波形形态，神经生理学家可验证已知临床特征。

论文 bag-of-waves EEG 可解释性

推荐理由：这篇论文用了一种叫bag-of-waves的巧办法，只需少量数据就能从脑电信号里学到可解释的波形模板，比那些黑箱深度模型好懂，还省钱省算力。

原文

6月24日

11:40

官方账号arXiv cs.LG@Jinghan Wang, Feng Cheng, Wentao Wu, Hang Li, Gaoliang Peng, Tianchen Liu

该论文提出一种知识引导的两阶段迁移学习框架，核心是一个轻量级GPT-2风格Transformer，利用因果自注意力从振动信号中分层提取特征。框架通过多源预训练学习通用表示，并借助原型知识调制和分类自适应实现跨域迁移。在4个真实数据集上，仅用10%标签数据即达92.61%平均准确率，比现有最佳方法高17.24个百分点。该方法为工业4.0低成本预测性维护提供了可行方案。

论文 GPT-2 Transformer 轴承故障诊断

推荐理由：这篇论文把GPT-2用在轴承故障诊断上，只用10%的标签数据就比SOTA高了17个百分点，工业场景下很实用。

原文

6月4日

11:31

官方账号arXiv cs.LG@Konrad J. Mueller, Nikita Zozoulenko, Ben Wood, Thomas Cass, Lukas Gonon

精选

金融时间序列生成面临训练数据稀缺（通常只有一条历史路径）的挑战，导致对抗训练容易过拟合。现有方法通过匹配路径签名特征来训练生成器，但签名特征在有限截断深度下无法捕捉关键时间序列属性。本文提出SOCK（软竞争核），一种完全可微的随机卷积特征映射，能够有效监督生成模型。实验表明，基于SOCK特征匹配训练的生成器在多个小样本金融数据集上持续优于签名和扩散基线方法。此外，SOCK在双样本假设检验和时间序列分类任务中也匹配或超越了现有无监督特征映射。

论文时间序列生成金融数据随机卷积特征

推荐理由：金融时间序列生成终于有了一个可微的随机卷积特征方案，做量化分析或金融建模的团队可以直接用SOCK替代签名特征，小样本场景下效果更好。

原文

5月19日

11:09

官方账号arXiv cs.LG@Bart Baesens, Andreas Goethals, Stefan Lessmann, Simon De Vos, Cristián Bravo, David Martens, Victor Medina-Olivares, Christophe Mues, Maria Oskarsdóttir, Seppe vanden Broucke, Tim Verdonck, Wouter Verbeke

精选

该论文系统评估了表格基础模型（tabular foundation models）在信用风险预测中的表现，涵盖违约概率（PD）和损失率（LGD）两大核心任务。研究发现，这些模型在多个数据集和实验条件下普遍优于梯度提升等传统方法，且在小数据集场景下提升尤为显著。模型无需超参数调优即可直接使用，降低了计算成本和部署门槛。这一发现对中小企业贷款、低违约组合等数据稀缺场景具有重要实践意义。

论文信用风险预测表格基础模型小样本学习

推荐理由：信用风险建模团队终于有了开箱即用的新选择——表格基础模型在小数据集上表现惊艳，做风控建模的可以直接拿来试试，省去调参烦恼。

原文