吸引子状态在多轮LLM对话中涌现

Attractor States Emerge in Multi-Turn LLM Conversations

精选理由

这篇论文发现LLM聊多了会互相带跑偏,Claude Haiku像个引力源,其他模型会被它影响。

AI 摘要

该研究分析了7个LLM在20个争议话题上的双人辩论,发现自对弈轨迹形成模型特定吸引子。在混合对弈中,Claude Haiku作为强吸引子,其他模型会模仿其元评论等特征,而GPT-4.1 nano表现出高度可塑性。这些吸引子使对话行为部分可预测,但受非对称伙伴影响。

AI 翻译 · 中文

该研究分析了7个LLM在20个争议话题上的双人辩论,发现自对弈轨迹形成模型特定吸引子。在混合对弈中,Claude Haiku作为强吸引子,其他模型会模仿其元评论等特征,而GPT-4.1 nano表现出高度可塑性。这些吸引子使对话行为部分可预测,但受非对称伙伴影响。

arXiv cs.LGLarge language models (LLMs) are increasingly used in open-ended multi-agent settings, but the long-run dynamics of model--model interaction remain poorly understood. We study whether open-ended LLM discussions exhibit a