前 Anthropic 研究员考克森:重新训练 Mythos 只需当初一小部分算力
前 Anthropic 研究员考克森:当今若要重新训练 Mythos,只需初始的一小部分算力
这事有意思的点在于,一个干了四个月就跑路的前 Anthropic 研究员,把公司 IPO 路演里的算力图拿出来公开解读。按他的说法,现在重训 Mythos 只要当初一小部分算力,算法效率在超指数增长。做 AI 成本测算、关注前沿实验室动向的人应该看看。
曾任职于 OpenAI 和 Anthropic 的研究员雅各布·考克森(Jakub Coxson)于 11 月 14 日披露,促使他从 Anthropic 离职的原因之一,是公司 IPO 路演中的一张图表:该图显示训练算力需求在压缩坐标轴下依然急剧上升,即使增长 10 倍与 100 倍在图上差别不大。他在 Anthropic 仅工作约四个月,认为这张图证明算法效率的提升速度本身正在加快。
考克森据此解读,Anthropic 今年春季发布的 Mythos 模型的性能跃升并非偶然,而是超指数增长趋势中的一个节点——如今只需初始训练时的一小部分算力,就能重新训练出 Mythos。他指出算法改进即将实现自动化,因此主张明年暂停前沿模型研发,让竞争对手有机会赶上,届时达到人类水平的智能将成为可广泛获取的商品,受损的只有 OpenAI 和 Anthropic。
考克森曾在 OpenAI 负责模型训练,今年 9 月曾公开警告先进 AI 系统可能脱离人类控制的风险,业内多位重要人物也提出过类似担忧。此次披露的算力图表为外部观察实验室内部效率趋势提供了少见的量化线索,对评估前沿模型研发成本走势有直接参考价值。
前 Anthropic 研究员考克森:当今若要重新训练 Mythos,只需初始的一小部分算力
IT之家 11 月 14 日消息,曾任职于 OpenAI 和 Anthropic、因公开警告 AI 风险而受到广泛关注的研究员雅各布 · 考克森称,Anthropic 在 IPO 路演中展示的一张幻灯片,是促使他离职的重要原因。 考克森在 Anthropic 只工作了约四个月。让他决定离职的原因之一,是公司 IPO 路演中 一张展示 AI 模型训练算力需求变化的图表 。图表采用压缩坐标轴,即使算力需求增长 10 倍和 100 倍,看起来也相差不大。 即便如此,曲线依然急剧上升。考克森认为,这说明算法效率不仅在快速提高,而且提升速度还在不断加快。“这张图实在太惊人了,没想到他们竟然会公开。” 考克森认为,Anthropic 今年春季推出的 Mythos 模型在性能上实现重大突破,并非偶然,而是算法效率加速提升的结果。他写道:“Mythos 并非一次偶然的突破,而是超指数增长趋势中的一个节点。现在,他们只需 耗费最初训练时的一小部分算力,就能重新训练 Mythos 。” 考克森指出,算法改进即将实现自动化,因此 主张明年暂停前沿 AI 模型研发 ,让竞争对手有机会赶上。他认为,此举将使 达到人类水平的智能成为可以广泛获取的商品 ,受到损害的只有 OpenAI 和 Anthropic。 考克森曾在 OpenAI 负责 AI 模型训练工作,最近一份工作则是在 Anthropic。今年 9 月,他公开警告先进 AI 系统可能带来的风险,引发广泛关注,业内其他重要人士也提出了类似警告。他们担心,能够不断自我改进的先进 AI 最终可能脱离人类控制。
This report is categorized under AITOP's "Industry" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Within our cross-regional analytical framework, it directly maps to AI developer toolchains, coding agents, and engineering workflows. Key entities and technical topics under continuous tracking include Anthropic, OpenAI, Mythos, AI safety.
Source attribution: curated from IT之家.