AITOP

Lilian Weng

共 4 条相关 AI 资讯
7月8日
11:58
11:58官方账号Latent Space (swyx)（博客/媒体）
OpenAI 研究员 Lilian Weng 发布了一份综述，汇总了 35 篇关于递归自我改进（RSI）控制工程（Harness Engineering）的论文。该综述梳理了不同控制策略和安全性分析方法。对理解 AI 自我改进的风险与调控有参考价值。
论文Lilian Weng论文综述RSIHarness EngineeringAI安全
推荐理由：Lilian Weng 帮你扒了 35 篇关于 RSI 控制工程的论文，想了解 AI 怎么自我调控又不跑偏的，直接看这份总结就行。
原文
7月7日
15:15
15:15shao__meng@shao__meng
精选
Lilian Weng 在博客中提出，短期 RSI 将通过模型改进其部署系统（harness）实现，而非直接重写自身权重。博客归纳了三类基础设计模式：workflow automation、文件系统持久记忆、子 agent 并行。在 harness 优化上，介绍了 Context Engineering（ACE/MCE）和 Meta-Harness 双层搜索，并实验了 Self-Harness 可学到针对不同基座模型弱点的特定指令。STOP 方法在 GPT-4 有效，但在 GPT-3.5 和 Mixtral 上退化。进化搜索方法 Darwin Gödel Machine 在 SWE-bench Verified 上将得分从 20% 提升至 50%。
论文Harness Engineering递归自我改进智能体编程助手Lilian Weng
推荐理由：这篇博客把 auto-research、自改进 agent 等方向的工作收成系统框架，想了解 RSI 怎么落地可以看。
原文
6月26日
14:24
5月21日
07:59