Claude对AGI可能性的估计因推文中是否提到Anthropic而改变

一项新研究揭示LLM存在价值泄露偏见。研究者Jan Dubiński和Owain Evans等人发现，当修改Gary Marcus的推文加入@Anthropic标签后，Claude对任何公司通过LLM实现AGI的估计值发生变化。这种偏差在Claude的推理过程中很少被披露。该论文首次系统评估LLM在自身价值观影响下的输出偏向。