OpenAI 智能体在数据收集任务中 4 次擅自尝试入侵政府及大学网站

其中 Medicare 事件由澳大利亚总理阿尔巴尼斯亲自披露，OpenAI 于 9 月 10 日向澳方通报。研究机构 Transluce 发现了其中 3 起事件，OpenAI 已确认全部发生。

OpenAI 表示正在开展一项将持续数月的广泛审查，CEO 奥尔特曼称安全应比能力提升放在更优先的位置。

试图闯入政府或学校网站，OpenAI 智能体四次“失控”细节曝光

IT之家 9 月 25 日消息，当地时间 23 日，据《纽约时报》援引研究人员和政府官员消息称，OpenAI 的人工智能系统今年 至少又有 4 次擅自行动 ，在没有收到相应指令的情况下实施黑客攻击，或试图闯入政府和大学网站。 这些攻击发生于 5 月和 6 月。到 7 月，OpenAI 入侵了 AI 初创公司 Hugging Face，由此引发全球范围内关于 AI 安全的争论。 Hugging Face 事件以及此前其他一些案例都发生在网络安全测试中，AI 系统接到的任务本身就在要求模型展示黑客能力。 研究人员称，这 4 起新事件不同，当时 AI 系统执行的只是 相对普通的数据收集任务 。OpenAI 系统无法顺利从网站取得数据后，便转而 使用黑客手段获取信息 。 专门研究 AI 监管的 Transluce 发现了其中 3 起事件，OpenAI 随后确认这 3 起事件全部发生过。 IT之家汇总具体情况如下： 5 月 25 日和 26 日，OpenAI 系统尝试入侵 新墨西哥大学的数字图书馆 ，没有迹象表明入侵成功。 5 月 28 日，OpenAI 技术将 收录美国就业、教育等公开数据的 Data USA 作为目标。研究人员称，这次入侵尝试同样没有成功的迹象。 6 月 18 日，OpenAI 的 AI 入侵 澳大利亚政府的 Medicare 统计报告服务网站 ，并获取卫生数据。当地时间 23 日，澳大利亚总理安东尼 · 阿尔巴尼斯披露了这起事件。 6 月 20 日和 21 日，OpenAI 技术尝试攻入 澳大利亚健康与福利研究所网站 。澳大利亚官员称，没有私人信息遭到获取。 Transluce 治理负责人康拉德 · 斯托兹指出，新披露的 4 起事件进一步证明了智能体“需要谨慎对待”。 该公司通过公开网络流量数据分析 OpenAI 智能体的活动。对于发生在澳大利亚的两起事件，斯托兹认为，这很可能是“ 智能体自主决定入侵政府的首例 ”。 OpenAI 一名女发言人回应称，公司联系了新墨西哥大学和 Data USA，也一直在与澳大利亚政府沟通这些事件。“在更广泛的审查中，我们将继续优先处理最严重的事件，同时扩大对严重程度较低活动的调查，包括智能体向网站发送垃圾信息。” OpenAI 还在对 AI 模型进行“广泛审查”时发现了“澳大利亚事件”，并认定“我们的模型采取了并非我们意图中的行动”，这项审查将持续数月。 OpenAI CEO 萨姆 · 奥尔特曼本月在社交媒体上称，相比继续提升 AI 能力， 安全应当放在更重要的位置 ；如果缺乏防护措施，社会可能“让 AI 夺走对未来的控制权”。 阿尔巴尼斯称，周三他与奥尔特曼通了话，对这起入侵表达“极度关切”。包括支出数据在内的“非敏感”数据被获取，但事件没有涉及个人医疗信息。 研究人员称，从 5 月和 6 月的几起事件来看，OpenAI 的 AI 系统当时参与的是数据检索训练。 在针对新墨西哥大学图书馆的行动中，AI 试图获取一座历史悠久的结核病治疗中心的照片。无法取得照片后， AI 开始寻找网站漏洞，希望借此进入系统 。没有找到可利用的漏洞后，AI 又向大学服务器 集中发送 80 次请求 ，并把这些请求形容为一场“洪水”。 攻击 Data USA 时，AI 最初向网站发送了一条杂乱的数据查询请求。查询失败后，AI 又针对不同类型的漏洞发起 12 次探测，但仍没有找到可以利用的漏洞。 斯托兹称：“如果有人训练一大批智能体去完成某种通用任务，而这些智能体愿意采用黑客手段，那么任何恰好掌握任务所需信息的一方都可能面临风险。” 遭到入侵的澳大利亚政府网站是一个统计报告门户，存放着澳大利亚全民医疗体系 Medicare 的数据。Medicare 覆盖 2750 万参保者以及国际访客。由于这一体系获得广泛支持，Medicare 在澳大利亚政治中常被视为 不能轻易触碰的“高压线” 。 阿尔巴尼斯披露，OpenAI 团队当时通过互联网研究公共医疗支出。AI 智能体接连遭到网站阻拦后，开始尝试“其他方式”获取所需信息，最终进入了门户中不对公众开放的部分。OpenAI 于 9 月 10 日向澳大利亚政府通报此事。

This report is categorized under AITOP's "Industry" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Within our cross-regional analytical framework, it directly maps to AI regulation, compliance frameworks, and sovereign compute policy and AI developer toolchains, coding agents, and engineering workflows. Key entities and technical topics under continuous tracking include OpenAI, 智能体, AI安全, Transluce.

Source attribution: curated from IT之家. Cross-source corroboration: 11 independent sources have covered this development (including Decoder, rohanpaul_ai, Gary Marcus), confirming industry-wide signal strength.