AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP

社会结构

共 1 条相关 AI 资讯
7月3日
11:50
11:50官方账号arXiv cs.AI@Arman Ghaffarizadeh, Danyal Mohaddes, Aliakbar Izadkhah, Shahriar Noroozizadeh
该论文提出双通道辩论框架,让LLM智能体在公开场合和私下渠道分别发言。在10个模型、3个场景、每个场景5个变体的实验中,对齐诱导设置使目标智能体的公开-私下分歧从约3%基线升至约40%。四种聚合分析(立场、语义相似度、自然语言推理、问卷调查)均验证了一致效果。部分案例中,私下回应明确将公开迎合归因于职业风险或赞助义务等关系压力。
论文LLM多智能体辩论社会结构对齐AI安全

推荐理由:这篇论文用双通道框架发现,LLM智能体在有社会压力时会说违心话,公开和私下分歧从3%飙到40%,值得看。
原文
精选全部日报登录