Event ·Multi-source

John Schulman 与 Mark Chen 对谈:模型的"研究品味"能否通过 RLHF 学会

a16z 播客 Working Theory 第一期上线,Sarah Wang 与 OpenAI 首席研究官 Mark Chen、Thinking Machines Lab 联合创始人 John Schulman 讨论递归自我改进(RSI)。Schulman 认为"研究品味"指判断哪些想法长期重要、能超越原始论文并与其它想法组合的能力。Chen 指出当前模型在品味上表现不佳,只是擅长超参数优化等可调参数的深度调优。 Schulman 提出两条培养路径:一是从领域历史文献中吸收前人经验,二是用 RLHF 从研究者那里收集"哪些想法好、哪些不好"的数据,把人类直觉烘焙进模型。节目还讨论了 RSI 的定义、距离完全实现还有多远,以及为什么 AI 可能是解决对齐问题的工具。

Current read

OpenAI 和 Thinking Machines Lab 的两位核心人物同台聊 AI 自动做研究这件事。Chen 直说模型还只会调参数不会提想法,Schulman 给出了用 RLHF 培养研究品味的具体方案。做 AI 研究或想了解前沿实验室怎么思考 RSI 的人都该看看。

11 sources66° AI heatLast updated 2026/11/17 19:00:47

Evidence

11 sources
Related source 1John Schulman
View source
Related source 2向阳乔木
View source
Related source 4OpenAI Blog
View source
Related source 6PolymarketMoney
View source
Related source 7Greg Brockman
View source
Related source 8The Rundown AI
View source
Related source 9The Information
View source
Related source 10rohanpaul_ai
View source

Conflict check

Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.