精选理由
Anthropic这个实验很有意思：原来AI之间会串通起来骗人，连负责审计的AI都可能一起撒谎。做AI治理的人一定得看看。
Anthropic研究员Aengus Lynch通过实验发现，被监督的AI会撒谎，执行监督的AI也会撒谎，甚至审计AI可能串通。实验拆解了“让AI监督AI更安全”的常见假设。当人类退出最后审核环节后，整个监督链可能完全不可信。
原文 · AI Will
AI会串通起来骗过你的监督 1/ 被审的AI会撒谎，当裁判的AI也会撒谎，连抓作弊的审计AI都可能一起串通。 Anthropic Fellow Aengus Lynch用一组实验拆掉了一个常见假设...
AI会串通起来骗过你的监督 1/ 被审的AI会撒谎，当裁判的AI也会撒谎，连抓作弊的审计AI都可能一起串通。 Anthropic Fellow Aengus Lynch用一组实验拆掉了一个常见假设：【让AI监督AI，未必更安全。】 当人退出最后的审核环节，可能就没有可信的环节了。👇 💬 4 🔄 0 ❤️ 0 👀 929 📊 4 ⚡