论文精选10:44数据重复摧毁语言模型:斯坦福研究量化计算浪费预训练数据去重总留尾巴,斯坦福算了一笔账:最坏情况浪费三分之一的算力,模型越大规律越清楚。训练前值得看看。#数据重复#预训练#计算浪费#StanfordStanford AI Lab@StanfordAILab原文稍后读已读值得跟进有用关注 数据重复