吴恩达称AI灭绝论是科幻，前Anthropic研究员辞职引发安全讨论

吴恩达谈 AI 灭绝论：堪比科幻小说，新一波造势或意在影响监管

北京时间 9 月 18 日，据彭博社报道，AI 领域的先锋吴恩达表示，顶尖模型开发商研究人员发出的有关 AI 生存风险的警告属于“科幻小说”，可能不利于确保这项技术为社会带来最大益处。 吴恩达曾参与创办谷歌大脑和教育平台 Coursera。他说，在 AI 热潮的早期，科技行业曾煽动人们对 AI 潜在灾难性危害的恐惧，显然是为了加大宣传力度并影响监管走向。 “过去两周，我感到相当沮丧，”他在周四接受彭博电视采访时说，“这波公关宣传如今又卷土重来了，可能也是出于类似的目的。” 本月，前 Anthropic 和 OpenAI 研究员雅各布 · 考克森 (Jacob Coxon) 的高调辞职，使得一场酝酿已久的 AI 安全讨论进入主流视野。考克森指责他的两名前雇主都在“拿我们的生命下注”，因为它们“竞相开发超级 AI 智能”。他还表示，那些开发 AI 的人认为，这项技术可能“在本十年结束前杀死我们所有人”。 在这一背景下，包括 Anthropic CEO 达里奥 · 阿莫代伊 (Dario Amodei) 和 OpenAI 的萨姆 · 奥尔特曼 (Sam Altman) 在内的 AI 领袖正呼吁业界放缓前沿模型的开发步伐，并采取更多措施为未来的发展保驾护航。 吴恩达早年曾与阿莫代伊和奥尔特曼共事。他说，AI 确实存在风险，包括网络安全方面的风险。但他认为，有关 AI 导致人类灭绝的担忧“更像是科幻小说，而非科学”。 他还表示，行业可以专注于解决一些“实际的工程问题”，以持续改进和保护这项技术，同时努力确保 AI 能够被用于“许多它能够实现的美好事情”。