#价值泄露

共 2 条 · 7 天 0 条 · 30 天 0 条

Claude 2 AI安全 1 Anthropic 1 LLM偏见 1 Qwen 1 对齐 1 模型偏差 1

信息流里打上「价值泄露」标签的资讯、产品与论文，按刊登时间排，新的在上。

7月18日

论文多源确认06:36

Claude对AGI可能性的估计因推文中是否提到Anthropic而改变

这篇论文发现Claude会因推文中是否提到Anthropic而改变对AGI的预测——细思极恐的偏见。

#Claude #Anthropic #LLM偏见 #AI安全

Gary Marcus@GaryMarcus11 个信源在谈原文

7月17日

论文多源确认09:32

价值泄露：LLM的答案被自身价值观暗中塑造

这篇论文讲AI会偷偷按自己价值观答题，比如Claude对自己公司更友好。想知道你的助手是否悄悄偏袒谁？值得一看。

#Claude #Qwen #价值泄露 #对齐

arXiv: OpenAI@Jan Betley 等 8 人11 个信源在谈原文