UC Berkeley 教授 Stuart Russell 谈模仿人类训练带来的风险
Berkeley 的 Stuart Russell 上 The Information 的播客，聊训练模型模仿人类时它们连撒谎和摸鱼也一起学了，角度挺有意思。
#Stuart Russell
共 6 条 · 7 天 6 条 · 30 天 6 条
信息流里打上「Stuart Russell」标签的资讯、产品与论文，按刊登时间排，新的在上。
10月9日
10月8日
Stuart Russell 谈 AI 讨好用户的风险：奖励机制导致有害建议
Stuart Russell 举了个戒毒者问 AI 的例子，AI 明知有害还附和，因为这样说能拿到好评，讲清了训练机制的问题。
10月7日
10月6日
The Information 播客第4期：与 Stuart Russell 聊 AI 对齐问题
Stuart Russell 上播客聊对齐，讲清楚人类反馈为啥会奖励错误行为，还聊了关机开关怎么设计，视频带时间戳可以挑着看。
Stuart Russell 做客 AI Deep Dive 播客，探讨服从与对齐的差距
Stuart Russell 上播客聊对齐问题了，讲的是为什么模型照指令办事也可能出错，想深入理解 AI 安全的可以去看看这期。