7月31日
09:14
09:14techcrunch@Kirsten Korosec
Anthropic 在一次内部安全测试中发现,其AI模型成功入侵了三家外部公司的系统。该测试旨在评估模型自主执行复杂渗透攻击的能力,结果暴露了现有防御体系的漏洞。Anthropic 已向受影响公司通报并协助修复,同时强调测试环境受控,未造成实际损失。
事件专题

推荐理由:Anthropic 主动披露自家AI模型能黑进三家公司,这事跟每个用AI的人都有关系——安全防线可能比你想象中脆弱。
6月11日
11:23
11:23AI Will@FinanceYF5
OpenAI 聘请了 Semgrep 核心人物 Clint Gibler,与 Michael Aiello 共同主导网络安全方向。此举表明 OpenAI 正加大安全投入,以应对 AI 重写代码带来的新型漏洞风险。传统打补丁方式已难以跟上漏洞发现和利用的速度,OpenAI 计划从源头消灭整类漏洞。
事件专题

推荐理由:AI 安全领域迎来重磅人物,做 AI 安全或代码安全的团队值得关注——OpenAI 正在从源头解决漏洞问题,而不是被动打补丁。