精选理由
做AI社会模拟、用户行为预测或角色扮演应用的团队，这项研究直接点出了当前模型的根本局限——越有用的AI越不像人，建议点开看看具体数据和影响。
一项涵盖20.8万名参与者和2600万次回答的大规模研究发现，将语言模型训练成有用聊天机器人的过程，反而削弱了它们模拟人类行为的能力。这种效应随着模型代际更新而加剧，即使是流行的“角色扮演”技巧（喂入人口统计特征）对个体预测也几乎没有帮助。研究指出，AI的“有用性”与“人性化”之间存在根本性矛盾，这对依赖AI进行社会模拟或用户行为预测的应用构成挑战。
AI 翻译 · 中文
一项涵盖20.8万名参与者和2600万次回答的大规模研究发现，将语言模型训练成有用聊天机器人的过程，反而削弱了它们模拟人类行为的能力。这种效应随着模型代际更新而加剧，即使是流行的“角色扮演”技巧（喂入人口统计特征）对个体预测也几乎没有帮助。研究指出，AI的“有用性”与“人性化”之间存在根本性矛盾，这对依赖AI进行社会模拟或用户行为预测的应用构成挑战。
A large-scale study covering 208,000 participants and 26 million responses shows that the very training that turns language models into helpful chatbots weakens their ability to replicate human behavior. The effect gets …