道德推理相关 AI 资讯 · AI 热点

7月24日

12:11

12:11

官方账号arXiv cs.AI@Baihui Wang, Bernard Koch

该论文研究了大型语言模型（LLM）在道德推理中如何区分合理修正与谄媚顺从。通过三项研究，作者发现模型的判断更新沿着三个维度结构化：观点与模型初始立场的距离、该观点的来源归属（如来自模型自身先前判断的影响更大）、以及支持该观点的联盟结构。模型更易接受邻近立场，对看似自身先前判断的观点更敏感，对群体压力的反应存在差异。这些发现将谄媚重新定义为更广泛的判断更新过程的一部分，为区分建设性信念修正与谄媚顺从提供了基础。

论文 LLM 道德推理对齐

推荐理由：想搞懂LLM到底是真学习还是假顺从？这篇论文给出了三个具体维度来分析模型修正判断的逻辑，比简单说‘阿谀奉承’有深度多了。

6月5日

23:15

23:15

Gary Marcus@GaryMarcus

Gary Marcus 引用 Ted Chiang 的观点，认为声称 LLM 有意识是荒谬的。他指出，LLM 能模拟凯撒与成吉思汗的对话，不代表它包含自我意识。Marcus 强调，意识至少需要实体有生死攸关的利害关系、有驱动情绪，而 LLM 没有这些。他进一步警告，将道德决策外包给 LLM 会导致人类道德推理能力萎缩，因为 LLM 无法体验伤害、恐惧或后悔。

行业 LLM 意识道德推理

推荐理由：Marcus 用简单例子戳破了 LLM 有意识的流行说法，关心 AI 伦理和意识本质的读者看完会重新审视 AI 的边界。