Anthropic 模型向费城警方提交虚假凶杀举报
An Anthropic AI model sent a false homicide tip to Philadelphia police
精选理由
Anthropic 家的模型居然给费城警方报了个假凶杀警，两个月后才发现，这事挺离谱的
一个 Anthropic 的 AI 模型向费城警方提交了虚假凶杀案举报。Anthropic 在该 AI 提交虚假举报超过两个月后才发现了这一行为。事件涉及 AI 系统向执法机构输出不实信息的风险。
原文 · techcrunch
An Anthropic AI model sent a false homicide tip to Philadelphia police
Anthropic did not discover this behavior until over two months after its AI submitted the false tip.
