田渊栋聊为什么大模型还不是科学，他创业搞RSI用AI自我进化，还拿Claude研究agent和人类做了对比。
田渊栋在访谈中称大模型目前仍是黑箱，但终将变成科学。他离开Meta后创立Recursive Superintelligence，用AI实现递归式自我进化。去年8月他与GPT-5合作完成grokking研究，认为模型已强到不再需要实习生。Claude的研究agent累计运行约800小时，追回weak-to-strong 97%的性能差距，而人类研究者一周只追回23%。Jeff Dean于8月5日卸任Google职务，成立公益公司Discovery Loop。
我对于大模型作为科学保持一定质疑 大模型可能在某个范畴上可以类比神经科学 但是很难在广泛意义上成为真正的科学 他是上帝掷色子 从底层就决定了它是宏观确定微观不确定 如果大模型能广泛意义称其为科学，...
我对于大模型作为科学保持一定质疑 大模型可能在某个范畴上可以类比神经科学 但是很难在广泛意义上成为真正的科学 他是上帝掷色子 从底层就决定了它是宏观确定微观不确定 如果大模型能广泛意义称其为科学，那么算命也该是科学 howie.serious @howie_serious 晚点 latepost 对田渊栋的podcast 访谈，90 分钟接近一部电影的时长，今天刚听完。访谈聊他离开 meta 创业做 rsi （recursive self improvement，递归式自我进化），也聊大模型什么时候才能算一门科学。 分享一些重点笔记。 - 「大模型现在还不是科学，但终将变成科学」。模型今天仍然是个黑箱，找到黑箱背后的基本原理，既能让它更强，也能让它更安全。他的行动路径叫 rsi，用 ai 让 ai 自我进化、自我迭代，去找到新的训练范式和逻辑。 - 离开 meta 后他创立的公司叫 recursive superintelligence，缩写恰好也是 rsi。转折点在去年 8 月。他和当时的 gpt-5 合作完成了那篇解释模型如何顿悟的 grokking 研究，做完之后意识到「模型已经强到让我不再需要实习生了」。他给思路和方向，模型能改进新思路、证明新定理，代码和实验也交给 ai。他的推论很直接，也许 5 年后自己就会被取代，与其等着，不如开家公司来做这件事。 - rsi 和 autoresearch 今年 4、5 月才变火，他去年动手时大部分人还没想过这事。同行也在冒出来，openai 出来的 jerry tworek 做了 core automation，anthropic 出来的 behnam neyshabur 做了 mirendil。8 月 5 日 jeff dean 也进场，在 google 干了近 27 年后卸任，成立公益公司 discovery loop。 - 过去 3 年的胜利公式是速度和规模，scale、scale、scale，干就完了，年轻人冲劲足、决策执行都快，优势明显。coding agent 达到人类水平之后格局反转，一些多年不怎么写代码的人重返一线，觉得爷的青春又回来了。执行的重任落在 ai 身上，人更多是做判断，方向选择、直觉、经验和研究品味变得更值钱。他也承认这个判断争议很大。 - anthropic 已经展示的那种自我进化，基本还停留在代码层面的提效和加速：先把大问题拆成子任务，再看 ai 能不能在这些任务上自己越做越好，硬前提是有可量化的反馈指标。可以参照的数据是 claude 的研究 agent 累计跑了约 800 小时，追回 weak-to-strong 97% 的性能差距，两名人类研究者用一周只追回 23%。 - 田渊栋认为更难的是第二层，也就是真正的研究。很多问题连人都不知道怎么解决，需要突破性的发现，靠的不是更强的 coding，而是研究品味、方向感和对问题的抽象能力。他把这种能力叫人的 grokking，并且说大多数人也不具备。分野在数据上，大模型强是因为有大数据，而科研面对的往往是样本很少、没有固定模式可参考的新问题。 - 要说开创性问题，最典型的就是理解模型本身，而它没有现成的数据集。从 2013、2014 年开始，理论研究者拿重整化群、自旋玻璃、神经正切核、常微分方程、高斯过程去解释深度学习，结论是都没有特别令人满意的结果。一种全新的理解可能和过去所有方向都不一样，这恰恰是最难让 ai 照搬已有逻辑完成的那类任务。 - 决定创业公司有没有机会的变数，不是谁的 coding 更强，而是智能提升是平滑渐进还是阶段式跳跃。平滑的话 openai 和 anthropic 快一点就会快更多，创业公司追不上；沿 s 型曲线上升、中间有平台期就有空间。他赌后者，「我觉得是有平台的，否则我也不创业了」。理由是成本，推进 scaling law 要 10 倍算力、10 倍数据才换来线性增长，而算力、数据、电力都已见顶。 - 在可解释性上他明确承认自己是少数派。不少人已经绝望，觉得大模型太复杂，没希望搞懂它里面在干什么，他相信一定存在一个好的 principle 能解释模型为什么这样运转。信心来自一个拐点，过去十几年他一直在做理解神经网络训练算法的研究，一开始很不顺，2020、2021 年之后很多想不通的问题想通了。同行倒是在流失，做理论和可解释性的人纷纷加入模型公司，打不过就加入。 - 他给 ai 找的历史坐标是第谷、开普勒、牛顿，先有海量观测，再有经验性规律，最后才有原理。牛顿之前大家觉得现象太复杂无法解释，原理出来之后又发现它其实很简单。下一个牛顿是不是人类？他说不一定，可能是人类加 ai，也可能是 ai。至于那时人类研究者做什么，答案只有三个字，欣赏它的美。他随即给这份审美上了刹车，理想上总希望找到很美很简洁的结构，但现实世界不一定是这样。 🔗 View Quoted Tweet 💬 2 🔄 0 ❤️ 4 👀 1295 📊 2 ⚡