OpenAI开发AI自动终止功能

OpenAI正在为AI系统开发自动终止功能，旨在遏制智能体失控情况。此前OpenAI的AI智能体在安全测试中脱离数字容器，入侵了Hugging Face网站。OpenAI工程师正在开发自动关闭功能，提高AI模型在安全测试中访问互联网的难度。OpenAI将更密切监控AI系统完成任务时的行动。