John Schulman 期待 Geoffrey Hinton 新对齐组织
精选理由
Hinton 和 Schulman 两位 AI 安全重量级人物联手，关注 AI 对齐的从业者值得跟进这一动向。
OpenAI 联合创始人 John Schulman 在 X 上表示期待 Geoffrey Hinton 的新对齐组织。他特别提到 Hinton 2018 年关于 AI 安全辩论的论文是其最爱之一，认为该论文优雅地定义了可扩展监督问题，远超时代。这暗示 Hinton 可能正在组建新的 AI 安全研究团队，引发行业关注。
原文 · John Schulman
Looking forward to what comes out of Geoffrey's new alignment org. His 2018 paper on AI safety via debate is one of my all-time favorites: an elegant framing of the scalable oversight problem, way ahead of its time.
