Intervention(干预)在人工智能研究中指通过人为改变系统输入、内部状态或执行过程,来分析因果机制、纠正模型行为或提升训练效率的一类方法。它既出现在因果推断语境中(如干预式因果发现),也出现在强化学习与大模型智能体的训练和监控中,是连接“观察”与“控制”的关键概念。
Intervention 的近期研究进展
当前焦点与观察点
Intervention 相关研究目前呈现两个并行方向。一是工程侧的“运行时干预”:随着 LLM 智能体被部署到多轮、长程任务中,如何在执行轨迹偏离时实时监控并介入纠正,成为安全与可靠性的核心议题,OnTrack 与 UOPD 都属于这一脉络。二是训练侧的“干预式优化”:UniIntervene++ 等工作将自适应干预嵌入强化学习流程,用外部介入替代纯自主探索,以降低真实环境中的试错成本。
争议点主要在于干预的边界:过度干预可能使学到的策略依赖外部纠正,削弱智能体的自主泛化能力;而因果发现方向的研究(如干预式因果发现)则面临成本与可扩展性的权衡。后续值得关注的观察点包括:干预信号如何在监控与训练之间统一建模、多智能体场景下的介入时机判断,以及主动式助手从“预测”走向“干预”时的安全评估标准。