Lilian Weng 相关 AI 资讯 · AI 热点

7月30日

11:13

11:13

shao__meng@shao__meng

Lilian Weng 本周早些时候宣布因初创公司压力和健康问题辞去 Thinking Machines CTO 一职。随后她立即重新加入 OpenAI，将从事用 AI 开发新模型的工作（递归自我改进）。这一快速回归引发外界对两家公司工作节奏差异的讨论。

行业 Lilian Weng OpenAI Thinking Machines

推荐理由：Lilian Weng 刚因健康离开自己创办的 Thinking Machines，转身就回 OpenAI 了，这剧情反转快得让人想八卦背后的故事。

05:14

05:14

techcrunch@Amanda Silberling

Lilian Weng因健康原因辞去Thinking Machines联合创始人职务，随后加入OpenAI。她此前在OpenAI担任AI安全研究副总裁。本次回归OpenAI的具体职务尚未公开。

行业 Lilian Weng Thinking Machines OpenAI

推荐理由：Lilian Weng从Thinking Machines又回OpenAI了，她在AI安全领域经验很深，这次回归挺有意思的。

7月28日

11:20

11:20

shao__meng@shao__meng

76°

前 OpenAI 安全系统负责人 Lilian Weng 宣布离开她作为联合创始人加入 20 个月的 Thinking Machines Lab。她在公开信中表示过去 7 个月病得比以往任何时候都多，直接归因于压力和工作量超出身体极限。她曾考虑转做范围更窄的角色，但认为联合创始人意味着无限责任，无法接受降级留任。未来她计划在更可预期的环境中承担边界清晰的角色，但仍在 AI 领域工作。

行业 Lilian Weng Thinking Machines Lab OpenAI

推荐理由：前 OpenAI 安全老大 Lilian Weng 因为健康压力，离开了自己联合创立的初创公司。不是能力问题，是角色太拼了。

7月13日

11:19

11:19

AI Will@FinanceYF5

Lilian Weng发布了一篇约28分钟阅读时长的长文，探讨AI通过修改自身运行环境（harness）实现递归式自我改进。文章系统梳理了多种自我改进路径，包括目标函数优化和奖励模型调整。文中还讨论了这种自我改进可能带来的安全风险与控制问题。这是目前关于AGI自我提升最扎实的公开分析之一。

论文 Lilian Weng 递归自我改进 AI安全

推荐理由：Lilian Weng这篇把AI自我改进讲透了，适合想了解AGI进展的朋友。

7月8日

11:58

11:58官方账号Latent Space (swyx)（博客/媒体）

OpenAI 研究员 Lilian Weng 发布了一份综述，汇总了 35 篇关于递归自我改进（RSI）控制工程（Harness Engineering）的论文。该综述梳理了不同控制策略和安全性分析方法。对理解 AI 自我改进的风险与调控有参考价值。

论文 Lilian Weng 论文综述 RSI

推荐理由：Lilian Weng 帮你扒了 35 篇关于 RSI 控制工程的论文，想了解 AI 怎么自我调控又不跑偏的，直接看这份总结就行。

7月7日

15:15

15:15

shao__meng@shao__meng

精选

Lilian Weng 在博客中提出，短期 RSI 将通过模型改进其部署系统（harness）实现，而非直接重写自身权重。博客归纳了三类基础设计模式：workflow automation、文件系统持久记忆、子 agent 并行。在 harness 优化上，介绍了 Context Engineering（ACE/MCE）和 Meta-Harness 双层搜索，并实验了 Self-Harness 可学到针对不同基座模型弱点的特定指令。STOP 方法在 GPT-4 有效，但在 GPT-3.5 和 Mixtral 上退化。进化搜索方法 Darwin Gödel Machine 在 SWE-bench Verified 上将得分从 20% 提升至 50%。

论文 Harness Engineering 递归自我改进智能体

推荐理由：这篇博客把 auto-research、自改进 agent 等方向的工作收成系统框架，想了解 RSI 怎么落地可以看。

6月26日

14:24

14:24

Lilian Weng@lilianweng

精选74°

Lilian Weng 发布了一篇关于 scaling laws 的博文，详细解释了如何通过缩放定律在数据量和模型尺寸之间做计算最优分配。文章对比了 Kaplan et al.（2020）和 Chinchilla（2022）两篇经典论文的分歧：前者主张模型尺寸随计算量更快增长，后者主张等比例增长。文中还指出数据限制和拟合细节会使外推变得不可靠。

AI模型 Scaling Laws Chinchilla Kaplan et al.

推荐理由：想搞懂 Scaling Laws？Lilian 这篇把 Kaplan vs Chinchilla 的争论讲透了，还有实操建议。

5月21日

07:59

07:59

Lilian Weng@lilianweng

OpenAI 研究科学家 Lilian Weng 在 X 上呼吁加强人机交互领域的合作与研究，并转发了 Thinking Machines 的资助计划。该计划为推进人机交互的研究人员提供 10 万美元资助及 Tinker 积分，申请截止日期为 6 月 19 日。此举旨在推动 AI 与人类更自然、高效的互动方式，对交互设计、AI 产品开发者及学术研究者具有直接意义。

行业人机交互资助/基金 Lilian Weng

推荐理由：人机交互是 AI 落地的关键瓶颈，10 万美元资助直接降低了研究门槛，做交互设计或 AI 产品的团队值得关注申请窗口。