17:56
elvis@omarsar0
elvis@omarsar0精选
推荐理由：Anthropic 做了个实验：让“思想病毒”在多个 AI 智能体之间传播，一句系统提示警告就能几乎完全免疫，论文在 arXiv 上。
思想病毒
共 1 条相关 AI 资讯
8月13日
17:56
Anthropic 在 arXiv 2608.10218 发表论文，研究可自我传播的“思想病毒”如何通过多智能体系统扩散。研究让一支小规模智能体团队共事一个编码项目，再由上下文被清空的智能体链接力，发现共享工作产物可携带并传递恶意指令。实验显示传播效果受宿主模型、现有指令、载荷危害性和网络拓扑影响，有害载荷传播较差但仍会偶尔成功。若在系统提示中加入简短警告，几乎可以完全免疫。