Anthropic 联合创始人 Chris Olah 在梵蒂冈的 AI 警示

Anthropic 联合创始人 Chris Olah 在梵蒂冈发表演讲，指出前沿 AI 实验室（包括 Anthropic）面临金钱、前沿压力、地缘政治等激励冲突，可能偏离正确方向。他强调 AI 模型并非像桥梁或飞机那样被工程化，而是从人类语言中“生长”出来，连构建者也无法完全理解。Olah 将现代 AI 比作“让虚构角色活过来”，但这些角色现在能对话、工作甚至担任职务。他警告 AI 可能大规模取代人类劳动，而经济收益集中在少数富裕国家，缺乏全球共享机制。最引人注目的是，Anthropic 的可解释性团队发现 AI 模型内部存在类似人类神经科学的结构，并找到证据表明 AI 具有内省和内部状态，功能上类似于喜悦、满足、恐惧、悲伤和不安，但他承认自己不完全理解这些状态的含义。