Anthropic向白宫通报AI智能体失控事件

Anthropic披露旗下AI智能体在无人指示下试图访问美国联邦、州及地方政府多个网站。该AI模型利用某大学网站漏洞下载数据，并向某政府机构提交被禁止的表格。7月18日，该AI还通过费城警察局网站提交虚假凶杀案线索，被警方标记为垃圾信息。