Nathan Lambert 这次没有谈模型,而是谈专家数据怎么帮 AI 真正进入律师、医生这些长尾行业,还顺带讨论了 SWE 需求为何没崩。他给 Mercor 当顾问的披露也很坦诚。做数据标注、行业落地的团队值得看看这个视角。
#Nathan Lambert
Nathan Lambert 认为更多实验室和 Anthropic 竞争、开放分发研究能力,安全社区能拿这些工具做价值,实验室还能靠用户数据反哺自家 AI 研发。对关注开源与闭源之争的研究者来说,这条观点值得看一眼。
RLHF 领域的研究员 Nathan Lambert 区分了 post-training 和 post-post-training,做模型训练的可以看他怎么说。
Nathan Lambert 写了一篇关于开源模型经济怎么测量的研究笔记,想搞清开源模型市场规模的人可以看看,不过要付费订阅才能读全文。
Nathan Lambert 发帖聊算力投入和市场需求的时间差问题,做投资或行业判断的可以看看他的视角。
Nathan Lambert 写了篇关于 LLM 基准测试的综述,说旧 AA 指数抬高了开放模型分数,还主张按任务拆分评估指数,做模型选型的可以看看。
Lambert 说训练模型没多少秘方,组织效率抵得上数倍算力,还拿 Llama 和 xAI 重组举例,观点很实在。
RLHF 教科书作者 Nathan Lambert 发的提醒:别看宣传,自己跑一遍测试再决定信不信一个模型。
Nathan Lambert 提了个有意思的角度:模型差距可能来自内部基建上的窄域 RL 训练,而这套东西对开源权重模型并不友好。
Nathan Lambert 转了一条讲闭源实验室 RL 训练细节的推文串,OpenAI、Anthropic 内部怎么做强化学习,这里能挖到不少线索。
RLHF 那本书的作者 Nathan Lambert 出来唱反调,说开源模型是网络防御的帮手而不是灾难源头,安全圈的末日叙事被他逐条拆了。
Nathan Lambert 谈开源模型安全风险该归谁管,他说这是生态问题不是开放权重专属,关心开源模型安全讨论的可以看看。
Nathan Lambert 发帖吐槽圈内把 API 密钥被窃也叫"蒸馏",还捎带讨论了模型传往中国的话题,术语混乱这事挺值得琢磨。
Lambert 在播客里聊得很实在:中国人才不输但算力差一截,蒸馏优势其实只有几个月,还聊了他新开的 Trillium 实验室。
Trillium Labs 的 Nathan Lambert 说 OpenAI 一名研究员能调用 5000 张 H100,中国研究员听到直接愣住,中美差距到底差在哪这段讲得挺直白。
Nathan Lambert 说 OpenAI 普通研究员手里有 5000 张 H100,中国研究员听完下巴都掉了,还聊了蒸馏和 RL 环境市场,挺有信息量。
The interview reframes the compute gap as the main constraint on Chinese labs rather than talent, and treats distillation as a months-long edge instead of an existential leak. Builders evaluating open-weight strategies get a concrete map of the RL-environment market and the reward-hacking pitfalls in purchased environments. Trillium's plan to give away environments for free directly undercuts paid vendors like those selling proprietary RL tooling.
Nathan Lambert 火力挺足,直接点出 Anthropic 喊监管和自家 API 的矛盾,观点很带劲,值得刷一下。
The shift here is that evaluation expertise, not raw compute or model size, becomes the core asset for companies selling training data to frontier labs. Practitioners working on RL pipelines, synthetic data or benchmark design should watch how Mercor turns this advice into concrete evals and data products. Lambert's explicit bet on open models for post-training gives open-source teams a possible edge over closed-lab-only approaches.
RLHF 书作者 Nathan Lambert 要聊开放模型怎么做安全,感兴趣开源方向的可以留意这期节目。
Berkeley 一次出了好几位 AI2050 院士,Nathan Lambert 这些做开源模型和 RL 的名字值得关注。
The post reframes open-weight models as strategic infrastructure rather than a stopgap that becomes obsolete once self-improvement begins. Policymakers, safety researchers and open-source maintainers shaping export controls or release policies should weigh how open checkpoints accelerate capability spread across borders, including ASEAN markets that rely on Chinese and US open models. The argument directly challenges closure-first safety positions.
For anyone working on or studying reinforcement learning from human feedback, this book provides a comprehensive guide covering key techniques like DPO and RLVR.
Nathan Lambert 出书讲 RLHF,还配了 13 讲免费课和 PPT,零基础也能跟着学,想入门后训练可以看看。