Intrinsic

general · First seen 2026-05-22 · Last seen 2026-10-16 · 13 mentions

Overview

Intrinsic(内在性)在人工智能领域通常指模型或智能体自身产生的信号、属性与机制,如强化学习中的内在奖励、世界模型中的内在动力学、注意力机制作为内在归纳偏置等。与依赖外部标注或环境的"外在大信号"(extrinsic)相对,Intrinsic 研究试图回答一个核心问题:智能体能否在没有人工监督的情况下自主评估、自主探索并持续改进,这被认为是让 AI 从被动执行走向自主学习的关键一环。

Intrinsic 研究的近期进展

  • 机器人内在奖励方法:复用VLA表示用于自主评估与策略改进——该工作提出把视觉-语言-动作模型的内部表示复用为内在奖励信号,让机器人自主判断任务完成质量并改进策略,减少对人工设计的奖励函数的依赖。
  • Learning Intrinsic Dynamics in Latent World Models——聚焦潜在世界模型中的内在动力学学习,目标是让模型在潜空间中自发刻画环境变化规律,而非简单拟合外部观测。
  • When Do Intrinsic Rewards Lead to Exploration?——从理论角度梳理内在奖励何时能真正促成有效探索,指出内在奖励并非总是有益,其设计条件与任务结构密切相关。
  • Attention Function as an Intrinsic Inductive Bias: How Models' Behavior Diverges in Novel Contexts——把注意力函数视为模型的内在归纳偏置,分析模型在新颖情境下行为为何发生偏离,为理解大模型的泛化与失稳提供了新视角。
  • Exploring Extrinsic and Intrinsic Properties for Effective Reasoning with Code Interpreter——在代码解释器推理任务中同时考察外在线索与内在属性的作用,属于 Intrinsic 视角向 LLM 推理增强方向的延伸。
  • 当前焦点与观察点

    目前围绕 Intrinsic 的讨论集中在三点:一是内在奖励与外在奖励的关系——近期工作普遍表明,内在信号在不合适时会引发无效探索甚至"好奇心陷阱",如何与任务目标对齐是核心难题;二是从符号时代的经典好奇心机制转向基于基础模型表示的内在信号,VLA 与世界模型的内部表征正在成为新的奖励与评估来源,这意味着"模型理解什么"和"模型想要什么"开始共用同一套表示;三是工程落地上的价值——机器人与长程智能体因外部反馈稀疏、人工奖励难以穷举,被视为 Intrinsic 方法最有希望先兑现收益的场景。

    需要注意,Intrinsic 相关结论多来自受控实验与小规模任务,能否扩展到真实机器人部署与生产级智能体仍有待验证。观察后续方向时,可关注内在信号在大规模多任务下是否稳定、其计算开销是否可控,以及内在评估与人类偏好之间是否会系统性冲突。

    Coverage

    10 on file
    Intrinsic · AI 话题观测|AI热报