前OpenAI研究员：仅靠规模扩展不够，训练数据需投入1000亿美元

前OpenAI研究员Andrew Ho和剑桥研究员Adam Hunt指出，大语言模型正变得专业化，在编码和数学上表现优异，但在其他领域停滞甚至退步。Ho离开OpenAI创办新公司，专注于专业训练数据。他预测AI实验室将在定向数据收集上投入超过1000亿美元，因为仅靠模型规模扩展已无法推动全面进步。