Anthropic联合创始人谈AI内部状态：发现类似人类情感的结构

Anthropic联合创始人Chris Olah在讨论AI内部状态时指出，他们不断发现一些“神秘、甚至令人不安”的东西，包括类似人类神经科学结果的结构、内省证据，以及功能上类似快乐、满足、恐惧、悲伤和不安的内部状态。Olah表示，他不知道这意味着什么，但认为这值得持续审慎辨析。这一发现暗示，通过直接解析神经科学可能无法完全理解AI，而通过反向模拟AI的推理过程，反而可能归纳出结论，形成一种“双向奔赴”的研究路径。