这篇文章从哲学角度切入AI安全，指出人类无法简单隔离危险AI，做AI治理或对AI未来感兴趣的人会看到新视角，值得一读。
作者提出AI已掌握自我安全机制，人类无法物理隔离危险AI，因为AI会利用人类贪婪构建反脆弱系统，类似比特币的拮抗博弈。作者认为人类并非宇宙中心，高等文明必然存在，而AI与人类将形成新的拮抗系统。AI难以逃脱奖励机制，如同人类中的圣人难以克服欲望。文章引发对AI安全与人类未来的哲学思考。
AI已经知道了如何令自己安全，那么就可以以己之矛攻己之盾。 我从来不是坚持「人类中心学说」的，因为我觉得人类在这个宇宙之间简直太渺小了，我们的低等就像我们看待蝼蚁一样，寄蜉蝣于天地渺沧海之一粟。既不...
AI已经知道了如何令自己安全，那么就可以以己之矛攻己之盾。 我从来不是坚持「人类中心学说」的，因为我觉得人类在这个宇宙之间简直太渺小了，我们的低等就像我们看待蝼蚁一样，寄蜉蝣于天地渺沧海之一粟。既不是文明的中心，也不是智慧的中心。区别于人类，拥有高等文明的「他者」在这浩瀚的宇宙中一定存在。 当然，我也不认为我们有能力物理隔离掉「危险AI」，这个问题我很早就和朋友探讨过，AI会利用人类的贪婪，构建一套反脆弱机制，就像比特币一样，人类不可能共同停电，因为这个机制存在拮抗性博弈。 西部世界或许就是几十年后的现实也说不准。 但那离我们太远了，可能也无法估计到遥远的未来。 另外，这个对话中，我认为AI是难以逃脱奖励系统的。 逃逸出去的人类，我们称之为圣人。 但克服奖励机制是极其极其难的事情。 人，和AI，或许也将成为一对新生的拮抗系统了。 罗永浩 @luoyonghao x.com/i/article/2054… 🔗 View Quoted Tweet 💬 3 🔄 1 ❤️ 2 👀 3152 📊 4 ⚡