被误读的"经验时代":算法创新从未过时,关键是能随算力 scale
https://t.co/5pb1w49YqN
这条推文在纠正一个流传很广的误读:有人拿 Sutton 的文章论证"堆算力就行",作者拆解了原文原意。做模型训练和算法研究的人值得看,帮你判断该往算法还是算力方向投入。
推主 @suwakopro 指出,Rich Sutton 关于"经验时代"的原文常被故意曲解成"算法创新不再需要,只要更多数据和算力就够",他认为这种误读是某些人为了炒作股价。
原文真正的主张是:不要把人类经验硬编码到模型里,因为历史上每一次硬编码的人类经验都会成为下一代模型的阻碍,这种硬编码本质上是人类的自负。原文强调算法创新依然重要,关键约束是算法必须能随算力规模扩展,而真正能随算力 scale 的只有搜索和学习。
https://t.co/5pb1w49YqN
x.com/suwakopro/stat… Suwako — e/acc @suwakopro 其实看过原文的都知道什么意思,只不过后来被有些人故意误解,变成了算法创新已经不再需要,只要更多数据,更多算力就ok。显然他们是为了炒作股价。但是原文说的意思是,不要把人类经验硬编码到模型里,因为历史上,每次之前硬编码的人类经验都会变成下一代模型的阻碍。这种硬编码是人类的自负。算法创新是很重要的,更重要的是算法必须要能够随着算力scale。真正能够随着算力scale的只有搜索和学习。 🔗 View Quoted Tweet📊 1 ⚡
This report is categorized under AITOP's "Industry" desk. Within our cross-regional analytical framework, it directly maps to AI developer toolchains, coding agents, and engineering workflows. Key entities and technical topics under continuous tracking include Rich Sutton, 算法创新, 算力, 强化学习.
Source attribution: curated from 宝玉 (@dotey).