Gary Marcus 是近年来对大型语言模型(LLM)及通用人工智能(AGI)路线最活跃的批评者之一。他持续质疑纯深度学习路径的可持续性,并主张神经符号主义作为修正方案。
近期,Marcus 通过多条推文密集表达了他的核心论点:Gary Marcus:LLM 的幻觉源于概率重构,非训练数据 指出幻觉问题是语言模型基于概率重构文本的本质缺陷,而非简单从训练数据中复制错误;Gary Marcus:与LLM对话是在与合成互动小说交流,而非真实存在 则进一步强调模型缺乏真实世界理解,其输出只是模仿人类对话的虚构产物。在商业前景上,他判断 Anthropic 长期盈利概率高于 OpenAI,但仍不大,因为当前模式成本高昂且价值创造不足。关于开源与闭源模型竞争,他提出 开源模型落后闭源4个月,可持续吗?,暗示开源追赶速度可能不够快,但并未彻底否定开源潜力。此外,Marcus 还点赞了 scaling01 的 AI 行业预测,认同 OpenAI 将领先、英伟达成首家 10T 公司,显示他对行业格局并非完全悲观。
当前焦点集中在:Marcus 反复强调的神经符号主义是否真能解决深度学习瓶颈,以及他本人对此解决方案的35年坚持是否会被行业采纳。未来值得观察的是:如果LLM持续扩张但仍幻觉频发,行业是否会重回符号逻辑与神经网络的结合路线。Marcus 的激进批评是否会促成更多实验室重新审视神经符号方法,也将成为关键信号。