元认知相关 AI 资讯 · AI 热点

7月2日

11:06

11:06

官方账号arXiv cs.AI@Shengguang Wu, Hao Zhu, Yuhui Zhang, Xiaohan Wang, Serena Yeung-Levy

73°

AutoMem 框架将 LLM 的记忆管理视为可训练技能，通过两轮优化自动改进。第一轮由强 LLM 审查完整轨迹并迭代修改记忆结构（提示、文件模式、动作词汇）。第二轮从多个回合中识别出好的记忆决策，作为训练信号直接提升模型记忆熟练度。在三个程序化生成的长周期游戏（Crafter、MiniHack、NetHack）中，仅优化记忆（不修改任务动作行为）使基础 32B 开放权重模型性能提升约 2-4 倍，达到与 Claude Opus 4.5 和 Gemini 3.1 Pro Thinking 等前沿系统竞争的水平。

论文 AutoMem LLM 记忆管理长周期任务元认知

推荐理由：想让你家 32B 模型在长任务上干翻 Claude 和 Gemini？试试 AutoMem——不动任务行为，只优化记忆管理，效果翻倍。

7月1日

10:41

10:41

官方账号arXiv cs.AI@Gabrielle Kaili-May Liu, Avi Caciularu, Gal Yona, Idan Szpektor, Arman Cohan

大型语言模型在表达不确定性时存在高置信度幻觉、无法识别知识边界等问题。论文提出强化学习与元认知反馈（RLMF）范式，利用模型自我判断质量来优化偏好排序。在忠实校准任务上，RLMF比标准强化学习提升最多63%。方法还包含元认知数据选择，优于朴素主动学习。实验表明RLMF在多种任务上达到最先进性能。

论文 RLMF LLM 元认知模型校准 AI安全

推荐理由：这篇论文提出了RLMF方法，让LLM学会说“我不知道”，比普通RL方法效果提升63%，解决了模型过度自信的问题。

09:41

09:41

官方账号arXiv cs.LG@Louis Mouchon

这篇论文提出，编码器隐空间上的小预测器计算的惊喜信号，既能作为可塑性门控，也能支持元认知。在第一个系统中，基于DINOv2或I-JEPA骨架的非参数情景记忆在持续学习1000类ImageNet时，通过离线复述分别恢复17.7和51.3个百分点的旧类保留率。第二个系统将相同信号用于视觉语言模型，使其在已知概念时断言、陌生时拒绝并请求解释，AUROC达0.966。经过睡眠阶段后，系统能回忆99.2%的教过事实，而基线模型为0%。

论文 DINOv2 I-JEPA ImageNet 持续学习元认知

推荐理由：这篇论文用同一个惊喜信号同时解决了持续学习的灾难性遗忘和VLM的元认知问题，效果很漂亮，值得做记忆或VLM的朋友看看。

5月26日

06:36

06:36

rohanpaul_ai@rohanpaul_ai

72°

Google 新论文指出，大语言模型的幻觉问题根源不在于回答错误，而在于错误时仍显得过于自信。论文提出应将目标从追求完美事实性转向让模型诚实表达自身不确定性，即“忠实的不确定性”。作者认为，模型缺乏的不是知识，而是对自身认知的元认知能力。对于智能体而言，不确定性感知能决定何时搜索、何时信任来源、何时停止，比工具本身更重要。

论文 LLM 幻觉不确定性元认知 Google

推荐理由：这篇论文点破了 LLM 幻觉的核心矛盾——不是知识不够，而是不知道什么时候该说“不确定”。做 AI 产品、智能体或对话系统的团队，看完会对“诚实比正确更重要”有更深理解，建议直接读原文。