Yoshua

Yoshua Bengio 作为深度学习先驱，近期持续参与 AI 安全与失控风险的公共讨论。他在《观察家报》系列中与 Gary Marcus 等学者共同探讨 AI 可能带来的灾难性后果，强调建立安全框架的紧迫性。与此同时，Gary Marcus 多次批评当前 AI 能力被高估，认为连十个简单任务都无法可靠完成的系统远未达到 AGI。此外，Marcus 赞同 Bengio 的观点，指出现有强化学习方法本身不足以实现真正对齐，需要新的理论突破。当前焦点在于，头部研究者正从模型能力竞赛转向风险治理讨论，但业界对风险等级、对齐路径尚未形成共识。未来观察点包括：Bengio 等人推动的监管提案能否落地，以及前沿实验室是否会采纳其安全建议。