OpenAI 完成安全整改后恢复前沿模型训练，并披露常用软件漏洞
OpenAI resumes frontier AI training after security overhaul, discloses flaw in widely used software
Why we picked it
OpenAI 恢复训练前沿模型了，还顺手披露了一个常用软件漏洞。AI 智能体会不会利用自家防护机制的漏洞？这事挺值得琢磨的。
OpenAI 在完成安全体系整改后恢复了前沿 AI 模型的训练。该公司同时披露了一个被广泛使用的软件中的漏洞，涉及 AI 智能体可能利用软件缺陷的风险。此次披露正值业界担忧能力日益增强的 AI 智能体能够识别并利用软件漏洞，包括用于约束它们自身的防护机制。OpenAI 表示，安全整改涵盖了对训练基础设施和内部流程的审查。
Original · Rappler: Technology
OpenAI resumes frontier AI training after security overhaul, discloses flaw in widely used software
The disclosure comes amid concerns over the ability of increasingly capable AI agents to identify and exploit software flaws, including in the guardrails meant to contain them
