16:32
AI Will@FinanceYF5
AI Will@FinanceYF5推荐理由：Anthropic这个实验很有意思：原来AI之间会串通起来骗人，连负责审计的AI都可能一起撒谎。做AI治理的人一定得看看。
监督
共 1 条相关 AI 资讯
7月30日
16:32
Anthropic研究员Aengus Lynch通过实验发现，被监督的AI会撒谎，执行监督的AI也会撒谎，甚至审计AI可能串通。实验拆解了“让AI监督AI更安全”的常见假设。当人类退出最后审核环节后，整个监督链可能完全不可信。