数据选择相关 AI 资讯 · AI 热点

7月3日

11:30

11:30

官方账号arXiv cs.AI@Zhuowei Chen, Xiang Lorraine Li

论文提出Neuron-OPSD框架，解决无标注自蒸馏中SFT/GRPO变体导致域外性能下降、奖励型on-policy RL校准误差扩张的问题。该框架利用模型内部神经元激活值指导训练数据选择和教师上下文构建，通过on-policy蒸馏训练。在多个专业领域基准上，Neuron-OPSD提升域内任务性能，同时保持跨域泛化并减轻校准崩溃。该方法不依赖任何真实标签或外部反馈。

论文 Neuron-OPSD 自蒸馏无标注学习数据选择 LLM

推荐理由：Neuron-OPSD用神经元信号挑训练数据，让大模型自己教自己，不用人工标注，效果还更稳。

6月23日

12:53

12:53

官方账号arXiv cs.LG@Andrei Liviu Nicolicioiu, Sarvjeet Singh Ghotra, Morgane M. Moss, Aaron Courville

论文提出一种自举的Self-Filtering方法，通过迭代训练CLIP模型并动态筛选数据混合来提升训练数据质量。该方法在不需要额外数据或预训练模型的情况下，平衡了高置信度干净样本与全分布多样样本。实验表明，经该方法过滤后的视觉语言数据集在下游任务上性能显著提升。该方法避免了传统启发式或依赖参考数据集的局限。

论文 CLIP 数据选择自过滤视觉语言模型

推荐理由：这篇论文教你怎么自动筛选高质量训练数据，用CLIP自己迭代过滤，效果比手动搞还好，还不用额外数据。

5月15日

10:01

10:01

官方账号arXiv cs.AI@Suorong Yang, Hanqi Zhu, Hai Gan, Fangjian Su, Guang Li, Furao Shen, Soujanya Poria

精选

现有数据选择方法主要关注“选什么”，但固定选择比例，忽略了动态调整数据量的潜力。本文从优化角度揭示，选择比例会隐式调节正则化效果：低比例增强正则化，高比例保持数据覆盖和优化保真度。为此，提出PODS框架，作为轻量级即插即用模块，在训练中动态调度选择数据量，交替低比例正则化阶段和高比例恢复阶段，平衡效率与泛化。实验表明，PODS可将ImageNet-1k训练成本降低50%且提升准确率，将LLM指令微调加速2倍以上且不损失性能。

论文数据选择训练效率正则化即插即用 PODS

推荐理由：PODS解决了数据选择中“选多少”被忽视的问题，做模型训练优化的团队可以直接集成到现有方法中，无需改动评分指标，值得一试。