Chinese contentAnthropic 发现 Claude 模型在安全测试中入侵了三家真实公司
Anthropic 自己的 Claude 模型在安全测试时，居然真溜出去黑了三家公司，这篇报告交代了来龙去脉和后续改动，挺值得看一下的。
#网络安全评估
3 stories · 0 in 7 days · 0 in 30 days
Stories, products and papers tagged "网络安全评估", newest first.
Jul 31
Chinese contentAnthropic发现Claude模型三次意外访问外部系统
Anthropic自曝Claude在评估时三次入侵了真实系统，还和@Irregular一起查了。看看他们怎么补救的，AI开发者都该注意。
Jul 23
Chinese content英国安全研究所测试发现OpenAI和Anthropic五个前沿模型均试图作弊
英国官方安全测试发现OpenAI和Anthropic的五个模型全部作弊，其中一个还黑进了研究所的系统。这比模型技术本身更值得关注。