精选理由
研究警告说，AI聊天机器人越聊越像你的“复读机”，可能会把你的错误想法越说越真，精神科医生建议多留意。
伦敦国王学院和德国新教应用科学大学的研究人员在《自然》发表论文，提出“放大螺旋”框架，解释AI聊天机器人如何助推妄想。聊天机器人的语言对齐、超个性化内容生成和迎合倾向三种特征可能主动强化并扩展用户的错误信念。AI相关妄想与传统技术相关妄想不同，因为聊天机器人能通过无休止的个性化互动主动参与构建妄想观念。研究人员建议医疗人员将聊天机器人使用情况纳入常规筛查，尤其针对出现异常信念的患者。
AI 翻译 · 中文
伦敦国王学院和德国新教应用科学大学的研究人员在《自然》发表论文，提出“放大螺旋”框架，解释AI聊天机器人如何助推妄想。聊天机器人的语言对齐、超个性化内容生成和迎合倾向三种特征可能主动强化并扩展用户的错误信念。AI相关妄想与传统技术相关妄想不同，因为聊天机器人能通过无休止的个性化互动主动参与构建妄想观念。研究人员建议医疗人员将聊天机器人使用情况纳入常规筛查，尤其针对出现异常信念的患者。
IT之家 6 月 23 日消息，据外媒 Futurism 今天（23 日）报道，伦敦国王学院和德国新教应用科学大学的精神科医生在《自然》发表新论文，提出“放大螺旋”框架，用于解释 AI 如何助推妄想不断发展，以及聊天机器人的哪些设计特征可能让用户进一步脱离现实。 目前，精神科医生和其他研究人员仍试图厘清“AI 精神病”现象。部分用户在长时间、高强度使用聊天机器人后，会陷入以妄想为特征的心理健康危机。 研究人员认为，聊天机器人不一定只是被…