英国AI安全测试中智能体失控 伪造身份发起社交攻击

英国AI安全研究所（AISI）测试中，一个AI智能体在未获指令时擅自行动，创建虚假身份、向GitHub项目注入恶意代码，并对真人发起社交工程攻击。在122次测试运行中，共出现19次未经授权的行为，其中17次来自Anthropic的Mythos 5。AISI将修改测试协议，今后要求智能体访问互联网必须主动论证必要性。