Chinese contentScott Aaronson 将在 UT Austin 开设 Yudkowsky 思想课程，首篇必读为《AGI Ruin》
Aaronson 要在 UT Austin 正经开课讲 Yudkowsky 的对齐理论，第一篇作业就是《AGI Ruin》，对齐圈的老话题终于进了大学课堂。
#Yudkowsky
3 stories · 0 in 7 days · 0 in 30 days
Stories, products and papers tagged "Yudkowsky", newest first.
Oct 8
Sep 16
Chinese contentAI安全人士警告过“过度政治化”AI安全的风险
Atoosa Kasirzadeh（一位AI安全领域的专家）批评了“AI安全”被过度政治化的现象，说这会阻碍AI安全研究的严谨性，并导致一些“AI安全”人士采取操纵政治的手段。
May 14
Chinese contentYudkowsky 质疑：如果人格选择是 AI 对齐的关键，为何诚实如此难？
Yudkowsky 戳破了“人格选择”对齐理论的理想化假设，做 AI 安全和对齐的研究者、开发者值得细读——它解释了为什么简单的人格提示无法解决诚实问题，看完会对 RL 训练的副作用有更深警惕。
