TabICL 相关 AI 资讯 · AI 热点

7月29日

11:32

11:32

官方账号arXiv cs.LG@Malena Loza, David Chushig-Muzo, Eva Milara, Luis Bote-Curiel, Luis Estrada-Petrocelli, Felipe Grijalva

论文评估了9种表格基础模型（TabPFNv2、TabICL、Mitra等）在分布偏移下的表现。使用了HELOC、Voting和Childhood Lead三个真实数据集，涵盖标签、社会经济和地理偏移类型。结果显示所有模型性能均系统性下降，偏移差距在0.003到0.060之间，且高性能模型需要大幅计算资源。

论文 TabPFN TabICL 表格基础模型

推荐理由：想知道表格模型换了数据还灵不灵？这篇论文测了9个主流模型，结果全都不乐观，性能差距最小也有0.003。

6月30日

11:13

11:13

官方账号arXiv cs.LG@Boshko Koloski, Xiangjian Jiang, Senja Pollak, Blaž Škrlj, Mateja Jamnik, Nikola Simidjievski

论文针对TabPFN和TabICL等纳米级表格基础模型，提出KnowsTFM方法，通过知识图谱的结构注意力先验和参数高效低秩更新进行微调。在数据稀缺、高维且分布偏移的专业领域，KnowsTFM相比原始变体取得显著提升，但在通用任务上增益微小。研究还发现，对前沿模型持续微调可能导致预训练知识及机制崩溃。

论文 KnowsTFM TabPFN TabICL

推荐理由：这篇论文教你用小知识图谱提升小表格模型在专业领域的效果，比普通微调更靠谱，还揭示了持续微调的风险。