06:23Gary Marcus@GaryMarcusGary Marcus指出,生成式AI已造成社会伤害,AI垃圾内容正在破坏互联网。数据中心过度建设可能威胁经济和环境。AI驱动的网络攻击威胁数据完整性,AI生成的低质量代码将引发软件危机。此外,缺乏针对就业冲击的应对计划,且对齐问题仍无解决方案。行业Gary MarcusAI风险AI安全对齐问题就业影响推荐理由:Gary Marcus一口气列出八条反对AI加速的理由,从互联网被垃圾填满到就业失控,每一条都直击要害。想听听技术圈的反方声音?看这个就够了。原文
06:43a16z@a16z前OpenAI CTO Mira Murati在Bloomberg Tech Live上表示,前沿AI的发展结果并非预先注定。她认为,预测乌托邦或反乌托邦过于简化,人类在技术构建、工具开发和部署方式上拥有很大的主动权。Murati强调,当前人类与AI系统共同掌控方向盘的时期至关重要,需要正确把握。她承认存在风险,但也看到了前沿AI系统的巨大潜力,这正是她继续工作的原因。行业Mira Murati前沿AI人类主动权AI风险行业观点10 个信源在谈推荐理由:Murati的观点为AI从业者和关注者提供了务实视角——未来不是被动等待的,做AI产品、政策或研究的团队值得听听这位行业关键人物的思考。原文
21:01Gary Marcus@GaryMarcusDaniel Eth在X上评论AI的长期影响,认为AI将极大改变世界,但方向完全不可预测。他反驳了“每周工作3.5天、活到100岁”的乐观预期,指出结果可能更好或更糟,包括工作大幅减少或增加、寿命远超100岁、甚至灭绝事件。他强调变化不会是温和的渐进改善,并批评摩根大通CEO戴蒙对AI重视不足。这条评论引发了对AI风险与机遇的深度讨论。行业AI风险AGI长期影响Daniel Eth不确定性推荐理由:AI从业者和关注AGI风险的人值得一看——它戳破了“AI会让一切变好”的简单叙事,提醒我们不确定性才是最大的变量。原文
13:37Dario Amodei@DarioAmodeiAnthropic CEO Dario Amodei 发表长文《技术的青春期》,探讨强大AI对国家安全、经济和民主构成的系统性风险。文章指出,AI的快速发展可能被恶意行为者利用,加剧网络攻击、虚假信息传播和地缘政治不稳定。Amodei 呼吁政府、企业和研究机构共同建立防御机制,包括监管框架、技术安全措施和国际合作。他强调,当前是决定AI发展方向的关键时期,需要平衡创新与风险管控。行业AI风险国家安全经济影响民主Anthropic推荐理由:Amodei 把AI风险从技术圈拉到了地缘政治和民主制度层面,关心AI治理、政策制定或企业安全的读者,这篇值得细读。原文
13:37Geoffrey Hinton@geoffreyhintonGeoffrey Hinton在推特上推荐了一份关于AI风险的报告,称其提供了深思熟虑、详细且研究充分的描述。他认为这份报告对于任何想要撰写或讨论AI风险的人来说都是必读材料。Hinton作为AI领域的权威人物,其推荐强调了该报告在AI安全讨论中的重要性。报告内容涵盖了AI可能带来的各种风险,包括技术、伦理和社会影响。行业AI风险安全Hinton报告伦理推荐理由:Hinton亲自背书,这份报告是AI风险领域的权威参考,做AI安全研究或政策制定的从业者值得一读。原文