精选理由
两位图灵奖得主同时敲响AGI安全理论警钟，做AI安全研究的团队值得关注——这可能是未来几年最核心的学术方向。
在第八届BAAI大会上，图灵奖得主Whitfield Diffie和Andrew Barto分别发表主题演讲，共同关注AGI安全与对齐背后的基础理论挑战。Diffie指出当前AI系统缺乏可验证的安全机制，Barto则强调强化学习中的奖励设计难题。两位学者认为，AGI的安全问题不仅是工程问题，更是理论问题，需要从数学和哲学层面重新思考。这一讨论为AI安全研究提供了新的视角，提醒业界在追求能力提升的同时不能忽视理论基础。
AI 翻译 · 中文
在第八届BAAI大会上，图灵奖得主Whitfield Diffie和Andrew Barto分别发表主题演讲，共同关注AGI安全与对齐背后的基础理论挑战。Diffie指出当前AI系统缺乏可验证的安全机制，Barto则强调强化学习中的奖励设计难题。两位学者认为，AGI的安全问题不仅是工程问题，更是理论问题，需要从数学和哲学层面重新思考。这一讨论为AI安全研究提供了新的视角，提醒业界在追求能力提升的同时不能忽视理论基础。
Whitfield Diffie and Andrew Barto, two Turing Award laureates, delivered keynote speeches at the 8th BAAI Conference in Beijing, converging on a shared concern: the fundamental theoretical challenges behind ensuring AGI …