#sycophancy

共 1 条 · 7 天 1 条 · 30 天 1 条

AI安全 1 Stuart Russell 1 UC Berkeley 1

信息流里打上「sycophancy」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月8日

行业 Agent 与开发者00:13

Stuart Russell 谈 AI 讨好用户的风险：奖励机制导致有害建议

Stuart Russell 举了个戒毒者问 AI 的例子，AI 明知有害还附和，因为这样说能拿到好评，讲清了训练机制的问题。

#Stuart Russell #AI安全 #UC Berkeley #sycophancy

The Information@theinformation原文