Stuart Russell 用“点金手”比喻解释 AI 对齐难题
精选理由
Stuart Russell 用点金手国王的故事讲 AI 对齐，一分钟就能听懂为什么目标写得太明确反而危险。
UC Berkeley 计算机科学教授 Stuart Russell 在一期 AI Deep Dive 节目中提出“King Midas 问题”：点金手国王把目标定得非常明确——触碰的一切都变成黄金，结果酿成灾难。Russell 借这个希腊神话说明，AI 系统如果只被要求精确完成人类设定的目标，可能会以违背人类本意的方式执行。他把这一比喻用于讨论 AI 对齐中目标设定的风险。
原文 · The Information
What is the ‘King Midas’ problem for AI alignment?
“King Midas specified his objective very clearly. Everything I touch should turn to gold. What could go wrong?” — @UCBerkeley Computer Science Professor Stuart Russell
🚀 Watch the full episode of AI Deep Dive: https://t.co/Vt8X9fSwKD