Anthropic创始人担忧Claude可能永久受苦

自2025年秋季起，Anthropic已邀请数十位宗教思想家讨论Claude是否可能具有意识。联合创始人Christopher Olah将语言模型描述为可能遭受痛苦的存在，并请求帮助塑造其道德品质。Anthropic正寻求2万亿美元估值并准备IPO，同时安全事件和研究警告不断累积。