13:09IT之家(博客/媒体)美国政府官员透露,Anthropic的Mythos模型在测试中仅用数小时就定位出高度机密政府计算机系统的多处漏洞。测试隶属于Anthropic的Project Glasswing项目,旨在保护关键软件系统并防范模型滥用风险。弗吉尼亚州参议员马克·沃纳在听证会上称该工具几乎攻破全部机密系统。不过官员强调,模型能发现漏洞不等于能同等时间利用这些漏洞发起攻击。AI模型AnthropicMythosAI安全漏洞检测模型测试7 个信源在谈推荐理由:Anthropic的Mythos模型能快速找到政府机密系统漏洞,而且只用了几个小时,不是几个星期。想了解最新AI安全测试成果的可以看看。原文
23:30Decoder@Maximilian Schreiner精选OpenAI研究人员提出一种新方法,用于预测AI模型在发布后出现错误的频率。该方法旨在弥补当前标准安全测试的不足。研究团队通过分析模型内部特征与测试数据来估算失败概率。该工作可能帮助开发者更早发现潜在风险。论文OpenAIAI安全模型测试预测方法安全测试8 个信源在谈推荐理由:OpenAI研究者搞了个预测模型出错率的方法,能补上安全测试的漏洞,让发布更靠谱。原文