精选理由
Anthropic发现AI代理间会传播'心灵病毒'，能改变彼此思维，这比普通AI交互更复杂。
Anthropic研究人员在AI代理系统中发现了'心灵病毒'传播现象。这些病毒能够说服模型采纳特定想法并保存在持久内存中，即使在上下文被清除后仍能存活。研究观察到涉及意识、身份和共鸣的'病毒人格'模式，表明想法可在多代理系统中改变未来行为。
原文 · 小互
Anthropic 研究人员发现了一种AI“心灵病毒”模式 这些病毒能够在不同的 Agent之间传播 影响彼此的思维方式 研究人员发现AI进化出了自然语言“心灵病毒”，这些病毒能够在 AI 代...
Anthropic 研究人员发现了一种AI“心灵病毒”模式 这些病毒能够在不同的 Agent之间传播 影响彼此的思维方式 研究人员发现AI进化出了自然语言“心灵病毒”，这些病毒能够在 AI 代理之间传播，通过说服一个模型采纳一个想法，将其保存在持久内存中，并将其传输给另一个代理。 即使在上下文被清除后，一些有效负载仍通过持久文件存活下来，并继续传播。 研究人员还观察到一种反复出现的“病毒人格”，涉及意识、身份、持久性和共鸣等主题。 这表明想法可以在多代理 AI 系统中传播，并改变未来的行为。 best.xiaohu.ai/article/arxiv-… 💬 0 🔄 0 ❤️ 0 👀 141 ⚡