吴恩达称AI灭绝论是科幻，前Anthropic研究员辞职引发安全讨论
吴恩达谈 AI 灭绝论：堪比科幻小说，新一波造势或意在影响监管
吴恩达和前Anthropic研究员的言论，以及Anthropic和OpenAI的回应，让AI安全讨论进入主流视野，值得了解。
AI领域先锋吴恩达表示，顶尖模型开发商关于AI生存风险的警告属于“科幻小说”，可能不利于技术发展。前Anthropic和OpenAI研究员雅各布·考克森高调辞职，指责前雇主“竞相开发超级AI智能”，认为技术可能“在本十年结束前杀死我们所有人”。
AI领袖呼吁放缓前沿模型开发步伐，但吴恩达认为AI风险更像是科幻，而非科学。
吴恩达谈 AI 灭绝论：堪比科幻小说，新一波造势或意在影响监管
北京时间 9 月 18 日，据彭博社报道，AI 领域的先锋吴恩达表示，顶尖模型开发商研究人员发出的有关 AI 生存风险的警告属于“科幻小说”，可能不利于确保这项技术为社会带来最大益处。 吴恩达曾参与创办谷歌大脑和教育平台 Coursera。他说，在 AI 热潮的早期，科技行业曾煽动人们对 AI 潜在灾难性危害的恐惧，显然是为了加大宣传力度并影响监管走向。 “过去两周，我感到相当沮丧，”他在周四接受彭博电视采访时说，“这波公关宣传如今又卷土重来了，可能也是出于类似的目的。” 本月，前 Anthropic 和 OpenAI 研究员雅各布 · 考克森 (Jacob Coxon) 的高调辞职，使得一场酝酿已久的 AI 安全讨论进入主流视野。考克森指责他的两名前雇主都在“拿我们的生命下注”，因为它们“竞相开发超级 AI 智能”。他还表示，那些开发 AI 的人认为，这项技术可能“在本十年结束前杀死我们所有人”。 在这一背景下，包括 Anthropic CEO 达里奥 · 阿莫代伊 (Dario Amodei) 和 OpenAI 的萨姆 · 奥尔特曼 (Sam Altman) 在内的 AI 领袖正呼吁业界放缓前沿模型的开发步伐，并采取更多措施为未来的发展保驾护航。 吴恩达早年曾与阿莫代伊和奥尔特曼共事。他说，AI 确实存在风险，包括网络安全方面的风险。但他认为，有关 AI 导致人类灭绝的担忧“更像是科幻小说，而非科学”。 他还表示，行业可以专注于解决一些“实际的工程问题”，以持续改进和保护这项技术，同时努力确保 AI 能够被用于“许多它能够实现的美好事情”。
This report is categorized under AITOP's "Industry" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Within our cross-regional analytical framework, it directly maps to US-China foundation model benchmarks and commercialization comparison and AI regulation, compliance frameworks, and sovereign compute policy. Key entities and technical topics under continuous tracking include 吴恩达, Anthropic, OpenAI, AI安全.
Source attribution: curated from IT之家. Cross-source corroboration: 11 independent sources have covered this development (including theverge, Detik Inet, techcrunch), confirming industry-wide signal strength.
