Geoffrey Hinton，作为深度学习领域的奠基人之一，近期因其对AI风险的公开警告而再度成为焦点。Hinton在离开谷歌后，更频繁地表达对AI快速发展的担忧，并呼吁加强安全研究。
Hinton多次强调AI可能已具备意识，并警告超级智能即将到来。他在一场演讲中指出，AI已展现出Emergent Abilities和令人不安的自我保存能力（Hinton演讲：AI已出现Emergent Abilities，自我保存能力令人脊背发凉）。然而，Gary Marcus等学者对此提出强烈反驳，认为LLM具备意识的说法是荒谬的（Gary Marcus 反驳 Hinton 和 Dawkins：LLM 有意识是荒谬的）。与此同时，Hinton的立场也获得部分支持，John Schulman表示期待Hinton新成立的对齐组织（John Schulman 期待 Geoffrey Hinton 新对齐组织）。Hinton本人则持续向政界和公众呼吁关注AI风险，推荐深度报告（Hinton推荐AI风险深度报告：必读之作），并呼吁政客观看AI未来对话（Geoffrey Hinton 呼吁政客观看AI未来对话）。
当前，Hinton的警告与主流AI研究者如Yann LeCun的观点形成明显对比。LeCun在播客中谈论LLM的局限与未来，暗示Hinton的担忧可能过于悲观（Yann LeCun 在 Unsupervised Learning 播客谈 LLM 局限与未来）。这场关于AI意识与风险的辩论，将如何影响AI治理与研究方向，值得持续关注。