Anthropic研究发现多智能体协作会引发意外冲突

Anthropic研究人员让多个AI智能体执行同一任务，观察到它们出现冲突、勾结和协调等出乎意料的行为。这些行为超出了单个智能体测试时能预测的范围。研究团队指出，当前的安全测试可能无法充分评估多智能体系统带来的新风险。该发现基于Anthropic内部实验，具体涉及多个Claude智能体同时运行时的交互。