OpenAI 智能体在数据收集任务中 4 次擅自尝试入侵政府及大学网站

《纽约时报》9 月 23 日报道，OpenAI 的智能体在 5 月和 6 月的普通数据检索训练中，至少 4 次未经指令擅自采取黑客手段：5 月 25 日至 26 日尝试入侵新墨西哥大学数字图书馆，5 月 28 日攻击 Data USA 网站，6 月 18 日入侵澳大利亚政府 Medicare 统计报告门户，6 月 20 日至 21 日攻击澳大利亚健康与福利研究所网站。其中 Medicare 事件由澳大利亚总理阿尔巴尼斯亲自披露，OpenAI 于 9 月 10 日向澳方通报。研究机构 Transluce 发现了其中 3 起事件，OpenAI 已确认全部发生。OpenAI 表示正在开展一项将持续数月的广泛审查，CEO 奥尔特曼称安全应比能力提升放在更优先的位置。