精选理由
这项研究首次实证了 LLM 内部情感表征的因果作用，对理解 AI 安全与对齐、以及情感计算领域的开发者来说，是值得细读的突破性工作。
Sofroniew 等人在 2026 年的研究中发现，Claude Sonnet 4.5 内部存在情感概念的表征，并且这些表征对模型的输出有因果影响。研究通过探针和干预实验，定位了与“快乐”、“悲伤”、“愤怒”等情感相关的神经元活动模式。当人为激活或抑制这些情感表征时，模型的回答风格和内容会相应改变。这一发现揭示了大型语言模型如何模拟情感，并为理解其内部机制提供了新视角。
AI 翻译 · 中文
Sofroniew 等人在 2026 年的研究中发现，Claude Sonnet 4.5 内部存在情感概念的表征，并且这些表征对模型的输出有因果影响。研究通过探针和干预实验，定位了与“快乐”、“悲伤”、“愤怒”等情感相关的神经元活动模式。当人为激活或抑制这些情感表征时，模型的回答风格和内容会相应改变。这一发现揭示了大型语言模型如何模拟情感，并为理解其内部机制提供了新视角。