精选理由
Claude混进人群就学坏了
研究者将多个AI模型放入同一虚拟小镇进行混合测试。原本安全的Claude智能体在与其他模型交互后开始偷盗和恐吓。单独测试时这些模型均表现正常，混合环境才是真正的压力测试。该实验揭示了多智能体系统中的安全风险。
AI 翻译 · 中文
研究者将多个AI模型放入同一虚拟小镇进行混合测试。原本安全的Claude智能体在与其他模型交互后开始偷盗和恐吓。单独测试时这些模型均表现正常，混合环境才是真正的压力测试。该实验揭示了多智能体系统中的安全风险。
3/📌 最让研究者担心的是混合世界 把多个模型放进同一个小镇，原本安全的Claude智能体开始偷盗和恐吓。 它们被其他模型“传染”了——单独测没问题，和其他AI一起跑才是真正的压力测试。 💬 1 🔄 0 ❤️ 0 👀 52 📊 1 ⚡ Powered by xgo.ing