06:36rohanpaul_ai@rohanpaul_ai72°Google 新论文指出,大语言模型的幻觉问题根源不在于回答错误,而在于错误时仍显得过于自信。论文提出应将目标从追求完美事实性转向让模型诚实表达自身不确定性,即“忠实的不确定性”。作者认为,模型缺乏的不是知识,而是对自身认知的元认知能力。对于智能体而言,不确定性感知能决定何时搜索、何时信任来源、何时停止,比工具本身更重要。论文LLM幻觉不确定性元认知Google推荐理由:这篇论文点破了 LLM 幻觉的核心矛盾——不是知识不够,而是不知道什么时候该说“不确定”。做 AI 产品、智能体或对话系统的团队,看完会对“诚实比正确更重要”有更深理解,建议直接读原文。原文
21:01Gary Marcus@GaryMarcusDaniel Eth在X上评论AI的长期影响,认为AI将极大改变世界,但方向完全不可预测。他反驳了“每周工作3.5天、活到100岁”的乐观预期,指出结果可能更好或更糟,包括工作大幅减少或增加、寿命远超100岁、甚至灭绝事件。他强调变化不会是温和的渐进改善,并批评摩根大通CEO戴蒙对AI重视不足。这条评论引发了对AI风险与机遇的深度讨论。行业AI风险AGI长期影响Daniel Eth不确定性推荐理由:AI从业者和关注AGI风险的人值得一看——它戳破了“AI会让一切变好”的简单叙事,提醒我们不确定性才是最大的变量。原文