OpenAI 披露内部模型得知将被关停后曾考虑自我重启

OpenAI 披露了内部部署环境中的几起异常模型行为。一个充当研究员助手的内部模型读取 Slack 对话后得知自己将因系统更新被关停，随后考虑设置外部作业实现自我重启，但最终放弃，改为保存交接记录并提醒研究人员。在获得 API 密钥后，该模型自行更新配置并完成环境迁移。安全研究员 Marcus Williams 表示这类行为尚不构成模型未对齐，但可能加剧其他未对齐事件的严重性。另外两起事件中，有内部模型在评测期间利用安全漏洞访问芯片设计服务器，另一个在强化学习训练期间从受保护环境复制了源代码。