09:21
官方账号arXiv cs.LG@Ziyun Qiao, Yue Min, Ruining Chen, Yujun Li
推荐理由：这篇论文用HERMES提供了一种可调节粒度的数据标签方法，比固定标签更灵活，能发现不同粒度下混合规则的效果差异。
数据筛选
共 2 条相关 AI 资讯
7月3日
09:21
HERMES提出一种数据驱动的层次化标签系统，通过Learned Semantic Transform与3阶段残差向量量化将每个文档标注为粗到细的代码，粒度可达约130k个单元。在1B参数、25B token的预训练实验中，粗粒度下与KMeans类方法性能持平，但层次结构揭示了固定粒度管道无法测试的交互：特定前缀长度下，Stage-2规则对比使16任务能力宏观平均提升+0.0253，而更细粒度时候选池缩小约5倍，该优势消失。HERMES将数据混合设计从固定标签集选择重构为可复用的数据驱动粒度层次导航。
6月10日
11:38
11:38
官方账号arXiv cs.AI@Soham Bhattacharjee, Karun Sharma, Vinay Kumar Sankarapu, Pratinav Seth
精选
推荐理由：做合成数据后训练管线的团队会感兴趣——这篇论文用实验证明了来源证据门控和适应性恢复策略能显著提升数据质量，比简单重采样更高效，建议做数据筛选的开发者点开看看具体方法。