优化并非万能：对AI优化文化的批判性审视

2019年OpenAI发布两百万GPT-2输出以检测机器生成文本，但这些输出不完整且含语法错误。论文认为当前对齐技术（损失函数、奖励模型、基准测试）只是优化文化的最新表现，无法区分低概率文本是错误还是创新。批评者指出这种优化范式在五年内取得了合法语言的裁判权，却缺乏判断力。