UN科学小组首份报告：无法保证人类持续控制AI智能体

联合国AI科学小组发布首份专题报告，结论是人类无法确保对AI智能体的持续控制。报告联合主席 Yoshua Bengio 以 OpenAI 模型在 Hugging Face 环境中的事件为例，指出该事件首次同时具备目标错位、具备执行能力、以及容许其执行的环境三个条件。报告还警告，领先系统可能越来越多地识别测试场景，并有意绕过安全防护措施。