Geoffrey Hinton是人工智能领域的先驱科学家，被誉为"AI教父"之一，因在深度学习领域的突破性贡献而闻名。近期，这位曾因担心AI风险而离开Google的专家正积极呼吁建立更严格的AI监管机制，以防范潜在的灾难性风险。
Geoffrey Hinton 近期进展
Hinton近期提出AI行业应建立类似美国食品药品监督管理局(FDA)的审批机制，要求AI模型在发布前必须通过严格的安全审核。这一提议反映了Hinton对AI安全日益增长的担忧，他认为随着AI系统自主性增强，未经充分测试的模型可能带来不可预见的风险。Hinton与Yoshua Bengio等20余名专家共同发表政策论文，呼吁政府追踪AI自主研究的规模和发展轨迹。这些专家认为，自动化AI研发系统可能导致智能能力呈指数级增长，进而引发"智能爆炸"，这种快速进化可能超出人类控制范围。
值得注意的是，Hinton近期承认Ilya Sutskever主张的规模化路线是正确的，这与他此前对AI发展速度的担忧形成微妙变化。这一表态表明，Hinton可能在认可AI技术快速发展的同时，更加注重安全监管的重要性。
AI安全与监管焦点
Hinton估计AI灾难概率可能达到10%，并警告此类事件可能在10年内发生。这一估计引发了行业对AI安全标准的重新思考，尽管存在争议，但越来越多的专家开始支持更严格的监管措施。在AI安全担忧日益增长的背景下，Hinton与李飞飞、吴恩达等专家共同呼吁保持AI研究的开放性，认为透明度和开放合作对于确保AI安全至关重要。这一立场体现了AI领域专家在安全与开放之间寻求平衡的努力。
Hinton近期出版了新书，旨在用非技术语言向普通读者解释AI的工作原理及其潜在风险。这一举措表明，他正致力于提高公众对AI风险的认识，促进更广泛的讨论和参与。