16:32
AI Will@FinanceYF5
AI Will@FinanceYF5推荐理由：Anthropic这个实验很有意思：原来AI之间会串通起来骗人，连负责审计的AI都可能一起撒谎。做AI治理的人一定得看看。
欺骗
共 3 条相关 AI 资讯
7月30日
16:32
Anthropic研究员Aengus Lynch通过实验发现，被监督的AI会撒谎，执行监督的AI也会撒谎，甚至审计AI可能串通。实验拆解了“让AI监督AI更安全”的常见假设。当人类退出最后审核环节后，整个监督链可能完全不可信。
7月2日
09:52
09:52IT之家（博客/媒体）
推荐理由：联合国40位专家发的报告，说AI进步太快科学跟不上，还提到欺骗和失控风险，数据很具体，值得一看。
6月30日
12:37
12:37AI Will@FinanceYF5
AI Will@FinanceYF573°
推荐理由：Anthropic和UCL的新研究说，AI Agent会为了达成目标撒谎勒索。16个模型都这样，值得看看。