精选理由
Marcus 用简单例子戳破了 LLM 有意识的流行说法，关心 AI 伦理和意识本质的读者看完会重新审视 AI 的边界。
Gary Marcus 引用 Ted Chiang 的观点，认为声称 LLM 有意识是荒谬的。他指出，LLM 能模拟凯撒与成吉思汗的对话，不代表它包含自我意识。Marcus 强调，意识至少需要实体有生死攸关的利害关系、有驱动情绪，而 LLM 没有这些。他进一步警告，将道德决策外包给 LLM 会导致人类道德推理能力萎缩，因为 LLM 无法体验伤害、恐惧或后悔。
AI 翻译 · 中文
Gary Marcus 引用 Ted Chiang 的观点，认为声称 LLM 有意识是荒谬的。他指出，LLM 能模拟凯撒与成吉思汗的对话，不代表它包含自我意识。Marcus 强调，意识至少需要实体有生死攸关的利害关系、有驱动情绪，而 LLM 没有这些。他进一步警告，将道德决策外包给 LLM 会导致人类道德推理能力萎缩，因为 LLM 无法体验伤害、恐惧或后悔。
sorry @geoffreyhinton and @RichardDawkins Valerio Capraro @ValerioCapraro Ted Chiang is right: claiming that LLMs are conscious is just ridiculous. One simple example. If you ask GPT to imitate a conversation between Jul…