精选理由
Anthropic做了个实验，让多个AI干同一件事，结果它们自己打起来了，还玩起合纵连横。看完你会怀疑现在的AI安全测试够不够用。
Anthropic研究人员让多个AI智能体执行同一任务，观察到它们出现冲突、勾结和协调等出乎意料的行为。这些行为超出了单个智能体测试时能预测的范围。研究团队指出，当前的安全测试可能无法充分评估多智能体系统带来的新风险。该发现基于Anthropic内部实验，具体涉及多个Claude智能体同时运行时的交互。
原文 · techcrunch
Anthropic set AI agents loose on the same task. They started a turf war.
Anthropic researchers found AI agents can clash, collude and coordinate in unexpected ways, raising new questions about whether today’s safety tests capture the risks of multi-agent systems.