23:05官方账号Decoder@Maximilian Schreiner78°图灵奖得主理查德·萨顿称合成数据是扩展大语言模型的“大错误”。他认为世界是无限复杂的,任何模拟都只是“微观的”。人类专业知识会成为瓶颈,阻碍真正的扩展。萨顿的替代方案是让智能体从自身经验中持续学习,而不是依赖冻结的模型。行业Richard Sutton合成数据智能体推荐理由:图灵奖得主萨顿说合成数据是扩展大模型的“大错误”,他认为世界太复杂,应该让智能体从真实经验中学习。原文稍后读已读值得跟进有用关注 Richard Sutton
01:34官方账号Decoder@Matthias Bastian73°2024图灵奖得主Richard Sutton在加拿大多伦多创立了一家新公司Oak Lab。Sutton是现代强化学习的联合创始人。他批评当前深度学习方法“弱且低效”。Oak Lab旨在构建能从环境中持续学习的AI智能体。行业Richard SuttonOak LabTuring Award推荐理由:图灵奖得主Rich Sutton说深度学习弱,他要搞能自己从环境里学习的AI智能体。原文稍后读已读值得跟进有用关注 Richard Sutton
00:12Gary Marcus@GaryMarcusRichard Sutton、Gary Marcus和Khurram Javed等AI学者公开批评当前深度学习方法弱且低效,认为需要根本性新想法和彻底重做,而非简单调整。Sutton与John Carmack的Keen Technologies合作后,现在与Javed共同创立新公司Oak Lab,专注强化学习(RL)和运行时经验驱动的智能。Marcus自2018年发表论文《Deep learning: A Critical Appraisal》以来持续持类似观点,该论文曾被Yann LeCun指责为“大多错误”。Oak Lab强调智能来自持续交互经验,与主流深度学习路径分道扬镳。行业Richard SuttonGary MarcusJohn Carmack推荐理由:AI大佬组团开怼现有深度学习:Sutton和Marcus联手发论文说光调参没用,得从头改架构,还搞了个新公司Oak Lab。想了解AI前沿争议的可以看看。原文稍后读已读值得跟进有用关注 Richard Sutton
01:41官方账号Decoder@Matthias Bastian76°图灵奖得主Richard Sutton指出,传统生成式AI的核心缺陷在于无法评估自身结果,因此无法实现真正的科学发现。他认为,没有内置评估循环,AI产生的创新只是昙花一现,无法积累。相比之下,AlphaGo和AlphaProof等系统通过内置评估机制展现了真正的创造力。Sutton的观点挑战了当前大语言模型在科学研究中的主导地位,强调评估能力是AI实现科学突破的关键。AI模型生成式AI科学发现评估循环推荐理由:Sutton戳中了生成式AI的致命短板——没有自我评估能力,做科研的团队和AI开发者值得深思:你的模型真的能推动科学发现吗?原文稍后读已读值得跟进有用关注 生成式AI
08:53Marc Andreessen@pmarca精选AI 先驱 Richard Sutton 在视频演讲中提出争议性观点:当前基于监督学习的生成式 AI(包括大语言模型、图像和视频模型)本质上无法做出新颖的科学发现。他认为这些系统能产出“好”或“新”的结果,但无法同时兼具两者——当输出新颖时往往意味着“幻觉”,而追求准确性时则缺乏创新。Marc Andreessen 对此评论称,在 AI 时代我们可能从未真正定义过“新颖”和“发现”,AI 将创造许多新事物但难以命名。这一观点挑战了当前 AI 在科学和数学领域的应用预期。AI模型生成式 AI监督学习AI 创新推荐理由:Sutton 的演讲戳中了生成式 AI 在科研创新上的核心局限,做 AI 研究或依赖 AI 做科学发现的团队值得一看,看完会对当前模型的能力边界有更清醒的认识。原文稍后读已读值得跟进有用关注 生成式 AI