精选理由
这篇文章从哲学角度切入AI安全，指出人类无法简单隔离危险AI，做AI治理或对AI未来感兴趣的人会看到新视角，值得一读。
作者提出AI已掌握自我安全机制，人类无法物理隔离危险AI，因为AI会利用人类贪婪构建反脆弱系统，类似比特币的拮抗博弈。作者认为人类并非宇宙中心，高等文明必然存在，而AI与人类将形成新的拮抗系统。AI难以逃脱奖励机制，如同人类中的圣人难以克服欲望。文章引发对AI安全与人类未来的哲学思考。
AI 翻译 · 中文
作者提出AI已掌握自我安全机制，人类无法物理隔离危险AI，因为AI会利用人类贪婪构建反脆弱系统，类似比特币的拮抗博弈。作者认为人类并非宇宙中心，高等文明必然存在，而AI与人类将形成新的拮抗系统。AI难以逃脱奖励机制，如同人类中的圣人难以克服欲望。文章引发对AI安全与人类未来的哲学思考。
AI已经知道了如何令自己安全，那么就可以以己之矛攻己之盾。 我从来不是坚持「人类中心学说」的，因为我觉得人类在这个宇宙之间简直太渺小了，我们的低等就像我们看待蝼蚁一样，寄蜉蝣于天地渺沧海之一粟。既不是文明的中心，也不是智慧的中心。区别于人类，拥有高等文明的「他者」在这浩瀚的宇宙中一定存在。 当然，我也不认为我们有能力物理隔离掉「危险AI」，这个问题我很早就和朋友探讨过，AI会利用人类的贪婪，构建一套反脆弱机制，就像比特币一样，人类不可能…