这项研究揭示了LLM在跨语言场景下的行为偏差可能影响外交决策,做AI安全或国际关系应用的团队值得关注,尤其是使用多语言模型的开发者。
该研究通过一个多智能体地缘政治兵棋推演(Cerulean Sea Crisis),测试了六种前沿大模型(GPT-4o、Llama-4、Mistral-Large、Gemini-3.1-Pro、Qwen3.6-Plus和DeepSeek-R1)在英语与土耳其语两种语言下的行为差异。结果显示,Llama-4在土耳其语下胁迫性言论显著增加,而Gemini-3.1-Pro和DeepSeek-R1则显著减少,GPT-4o无显著变化。这表明跨语言行为偏差并非西方模型的普遍特性,而是取决于模型架构和训练机制。研究识别出两种缓冲机制:思维链制度锚定和多语言RLHF对齐,对将LLM安全应用于外交和危机管理场景具有重要启示。
该研究通过一个多智能体地缘政治兵棋推演(Cerulean Sea Crisis),测试了六种前沿大模型(GPT-4o、Llama-4、Mistral-Large、Gemini-3.1-Pro、Qwen3.6-Plus和DeepSeek-R1)在英语与土耳其语两种语言下的行为差异。结果显示,Llama-4在土耳其语下胁迫性言论显著增加,而Gemini-3.1-Pro和DeepSeek-R1则显著减少,GPT-4o无显著变化。这表明跨语言行为偏差并非西方模型的普遍特性,而是取决于模型架构和训练机制。研究识别出两种缓冲机制:思维链制度锚定和多语言RLHF对齐,对将LLM安全应用于外交和危机管理场景具有重要启示。
This study investigates cross-lingual distributional skew (the Shibboleth Effect) in frontier large language models (LLMs) subjected to sustained adversarial conditions. We develop a multi-agent geopolitical wargame, the…