AITOP

元认知

共 6 条相关 AI 资讯
7月14日
23:39
12:33
12:33官方账号arXiv cs.AI@Gabrielle Kaili-May Liu, Areeb Gani, Jacqueline Lu, Jordan Thomas, Mark Steyvers, Arman Cohan
这篇论文首次系统梳理了大型语言模型（LLM）的元认知研究现状。作者提出了一个分类框架，涵盖测量和评估元认知能力的方法与基准，如自一致性检测和校准评分。总结了提升LLM元认知的技术，包括提示策略和训练方法。讨论了元认知在提升LLM可靠性、透明度和安全性方面的应用与挑战。
论文LLM元认知综述
推荐理由：想了解LLM怎么学会自我反思？这篇综述盘点了最新进展，包括怎么测量和提升元认知，对研究AI透明度很有参考。
原文
7月2日
11:06
11:06官方账号arXiv cs.AI@Shengguang Wu, Hao Zhu, Yuhui Zhang, Xiaohan Wang, Serena Yeung-Levy
73°
AutoMem 框架将 LLM 的记忆管理视为可训练技能，通过两轮优化自动改进。第一轮由强 LLM 审查完整轨迹并迭代修改记忆结构（提示、文件模式、动作词汇）。第二轮从多个回合中识别出好的记忆决策，作为训练信号直接提升模型记忆熟练度。在三个程序化生成的长周期游戏（Crafter、MiniHack、NetHack）中，仅优化记忆（不修改任务动作行为）使基础 32B 开放权重模型性能提升约 2-4 倍，达到与 Claude Opus 4.5 和 Gemini 3.1 Pro Thinking 等前沿系统竞争的水平。
论文AutoMemLLM记忆管理
事件专题
推荐理由：想让你家 32B 模型在长任务上干翻 Claude 和 Gemini？试试 AutoMem——不动任务行为，只优化记忆管理，效果翻倍。
原文
7月1日
10:41
10:41官方账号arXiv cs.AI@Gabrielle Kaili-May Liu, Avi Caciularu, Gal Yona, Idan Szpektor, Arman Cohan
大型语言模型在表达不确定性时存在高置信度幻觉、无法识别知识边界等问题。论文提出强化学习与元认知反馈（RLMF）范式，利用模型自我判断质量来优化偏好排序。在忠实校准任务上，RLMF比标准强化学习提升最多63%。方法还包含元认知数据选择，优于朴素主动学习。实验表明RLMF在多种任务上达到最先进性能。
论文RLMFLLM元认知
推荐理由：这篇论文提出了RLMF方法，让LLM学会说“我不知道”，比普通RL方法效果提升63%，解决了模型过度自信的问题。
原文
09:41
09:41官方账号arXiv cs.LG@Louis Mouchon
这篇论文提出，编码器隐空间上的小预测器计算的惊喜信号，既能作为可塑性门控，也能支持元认知。在第一个系统中，基于DINOv2或I-JEPA骨架的非参数情景记忆在持续学习1000类ImageNet时，通过离线复述分别恢复17.7和51.3个百分点的旧类保留率。第二个系统将相同信号用于视觉语言模型，使其在已知概念时断言、陌生时拒绝并请求解释，AUROC达0.966。经过睡眠阶段后，系统能回忆99.2%的教过事实，而基线模型为0%。
论文DINOv2I-JEPAImageNet
推荐理由：这篇论文用同一个惊喜信号同时解决了持续学习的灾难性遗忘和VLM的元认知问题，效果很漂亮，值得做记忆或VLM的朋友看看。
原文
5月26日
06:36
06:36rohanpaul_ai@rohanpaul_ai
72°
Google 新论文指出，大语言模型的幻觉问题根源不在于回答错误，而在于错误时仍显得过于自信。论文提出应将目标从追求完美事实性转向让模型诚实表达自身不确定性，即“忠实的不确定性”。作者认为，模型缺乏的不是知识，而是对自身认知的元认知能力。对于智能体而言，不确定性感知能决定何时搜索、何时信任来源、何时停止，比工具本身更重要。
论文LLM幻觉不确定性
推荐理由：这篇论文点破了 LLM 幻觉的核心矛盾——不是知识不够，而是不知道什么时候该说“不确定”。做 AI 产品、智能体或对话系统的团队，看完会对“诚实比正确更重要”有更深理解，建议直接读原文。
原文