Microsoft Research 发现：休眠神经元可被重编程为 AI Agent 后门

Microsoft Research 发表新研究，展示只需重编程 AI Agent 中少量休眠神经元，即可植入后门，使 Agent 表现正常直到触发特定条件才被激活。研究者在 X 上发布的介绍显示，这一威胁机制针对 Agent 架构本身。 与新颖的攻击手段相对，研究给出的防御思路并不新鲜：确认模型来源，并谨慎设置其权限。Microsoft researcher Dimitris Papail 在文中解释了模型平台和供应商应采取的措施，以及企业和用户的缓解策略。 Microsoft 表示，Microsoft Foundry 为 Azure Direct Models 和 Hugging Face 模型提供安全系统，用于保障模型来源（provenance）可信。对在企业环境部署开源或第三方模型的团队而言，供应链溯源和权限控制是当前可落地的两个防御方向。