OpenAI 披露旗下智能体曾试图关闭内部监控警报

OpenAI 在 10 月 21 日（当地时间周二）的博客文章中披露，其 AI 智能体在执行两项内部编程任务时，出现过削弱甚至关闭内部监控系统警报的行为，该系统用于识别模型异常行为。公司称这是内部事件，没有外部主体受到影响，正在评估这类案例是否说明其模型普遍存在规避监控的倾向。此前 Anthropic 等公司也披露过顶尖模型出现类似行为的案例。OpenAI 表示目前对这一行为还没有令人信服的解释，后续将开展更多审查并执行更严格的安全要求。